在11月17日，OpenAI的董事会决定解雇备受关注的首席执行官萨姆·奥特曼，这一举动引发了公司内部的动荡，同时也让人们对人工智能的安全性以及人工通用智能（AGI）快速发展的潜在风险产生了广泛关注。AGI通常被定义为能够在多种任务中展现出人类水平智能的系统。
OpenAI董事会表示，解雇奥特曼的原因是缺乏透明度，但外界普遍认为，奥特曼与董事会成员之间的分歧是主要原因，尤其是在OpenAI快速增长的背景下——如ChatGPT和Dall-E等产品已经吸引了数亿用户——这可能影响了公司对AGI潜在风险的关注。
OpenAI开发AGI的目标与人工智能实现超级智能的愿景，以及防止技术滥用或失控的需求交织在一起。然而，目前AGI及其相关风险仍然处于投机阶段。同时，特定任务的人工智能已经在现实中普遍存在，并且常常被忽视。
作为一名信息系统和负责任的人工智能研究者，我专注于研究这些日常算法的运作方式及其对人类的潜在伤害。
人工智能的普遍存在
人工智能在许多人的日常生活中扮演着显著的角色，从人脸识别解锁手机到语音识别驱动数字助理。它还在你可能未曾察觉的方面发挥作用——例如，影响你的社交媒体互动、在线购物体验、视频观看选择，以及在拼车服务中为你匹配司机。
人工智能也可能以你完全未曾注意到的方式影响你的生活。如果你正在求职，许多雇主在招聘过程中会使用人工智能。你的雇主可能会利用它来识别可能辞职的员工。如果你申请贷款，银行很可能会使用人工智能来决定是否批准贷款。如果你正在接受某种医疗治疗，医疗服务提供者可能会用它来分析你的医学影像。如果你知道有人在刑事司法系统中被捕，人工智能很可能在决定他们的命运时发挥了作用。
算法的潜在危害
许多不被关注的人工智能系统可能存在偏见，导致伤害。例如，机器学习方法通过归纳逻辑，从一组前提出发，从训练数据中提取模式。一项基于机器学习的简历筛选工具被发现对女性存在偏见，因为其训练数据反映了过去的做法，即大多数简历由男性提交。
在卫生保健、儿童福利等领域使用预测方法时，可能会出现队列偏见，导致社会不同群体之间的风险评估不平等。即使法律禁止基于种族和性别等属性的歧视——例如，在消费贷款领域——代理歧视仍然可能发生。这种情况发生在算法决策模型未使用受法律保护的特征（如种族），而是使用与这些特征高度相关的特征（如社区）时。研究表明，与白人借款人相比，风险相同的黑人和拉丁裔借款人在政府支持的企业证券化和联邦住房管理局担保贷款中支付的利率要高得多。
当决策者使用的算法与设计者的初衷不一致时，另一种形式的偏见就会出现。在一个著名的案例中，神经网络学会了将哮喘与较低的肺炎死亡风险联系起来。这是因为与总体人群相比，哮喘患者通常会接受更积极的治疗，从而降低死亡风险。然而，如果这种神经网络的结果被用于医院床位分配，那么哮喘和肺炎患者将面临被剥夺优先权的风险。
算法偏见也可能源于复杂的社会反馈循环。例如，在预测累犯时，当局试图预测哪些被判有罪的人可能再次犯罪，但用于训练预测算法的数据实际上是关于谁可能再次被捕的信息。
当前的人工智能安全性
拜登政府最近的行政命令以及联邦贸易委员会等机构的执法努力，是认识和防范算法危害的第一步。
尽管大型语言模型（如支持ChatGPT的GPT-3）和多模态大型语言模型（如GPT-4）是朝着通用人工智能迈出的重要一步，但它们也是人们在学校、工作和日常生活中越来越多使用的算法。因此，考虑由于广泛使用大型语言模型而产生的偏见是非常重要的。
例如，这些模型可能表现出性别、种族或宗教方面的负面刻板印象，以及在代表少数民族和残疾人方面的偏见。由于这些模型在律师资格考试等测试中展现出超越人类的能力，我认为它们需要更严格的审查，以确保人工智能增强的工作符合透明度、准确性和来源可信度的标准，并且利益相关者有权执行这些标准。
最终，大规模部署人工智能的成败可能并不在于流氓超级智能，而在于理解当算法决策无处不在时，谁是脆弱的。
Anjana Susarla是密歇根州立大学会计与信息系统系的Omura Saxena教授，专注于隐形人工智能。
该文章由独立的非营利新闻来源提供，分析和评论由学术专家撰写。
本文来自作者[尚安波]投稿，不代表上善若水立场，如若转载，请注明出处：https://www.tao1949.com/jyfx/202508-1825.html
评论列表（4条）
我是上善若水的签约作者“尚安波”！
希望本篇文章《抛开反乌托邦的幻想——人工智能已融入生活，潜在风险却常常不易察觉》能对你有所帮助！
本站[上善若水]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 在11月17日，OpenAI的董事会决定解雇备受关注的首席执行官萨姆·奥特曼，这一举动引发了公司内部的动荡，同时也让人们对人工智能的安全性以及人工通用...