科技巨头和 ChatGPT 创建者 OpenAI 等公司与乔·拜登总统会面并签署了自愿协议。
拜登总统周五会见了开发人工智能的公司
白宫已获得科技公司的“自愿承诺”，表示它们将帮助降低人工智能所涉及的风险。
美国总统乔·拜登周五在白宫会见了亚马逊、微软、Meta、谷歌、OpenAI、Anthropic和Inflection，他们同意在开发人工智能技术时强调“安全、保障和信任”。以下是每个类别的一些详细信息。
- 安全：两家公司同意“测试其人工智能系统的安全性和功能，对其进行外部测试，评估其潜在的生物、网络安全和社会风险，并将这些评估结果公开。”
- 安全：两家公司还表示，他们将保护其人工智能产品“免受网络和内部威胁”，并分享“防止滥用、降低社会风险和保护国家安全的最佳实践和标准”。
- 信任：这些公司达成的最大协议之一是让人们轻松辨别图像是原创的、经过修改的还是由人工智能生成的。他们还将确保人工智能不会助长歧视或偏见，保护儿童免受伤害，并利用人工智能解决气候变化和癌症等挑战。
OpenAI 的 ChatGPT于 2022 年底问世， 这是各大科技公司纷纷向大众发布生成式 AI 工具的开始。 OpenAI 的 GPT-4 于 3 月中旬推出。它是为 ChatGPT AI 聊天机器人提供支持的大型语言模型的最新版本，该模型的先进性足以通过 律师资格考试。然而，聊天机器人很容易给出不正确的答案，有时甚至给出不存在的来源。随着这些工具的广泛采用，它们的潜在问题重新引起人们的关注，包括传播错误信息以及加深偏见和不平等。
人工智能公司在说什么和在做什么
Meta表示欢迎白宫的协议。本周早些时候，该公司推出了 第二代 AI 大语言模型 Llama 2，并使其免费开源。
Meta 全球事务总裁 Nick Clegg 表示：“当我们开发新的人工智能模型时，科技公司应该对其系统如何工作保持透明，并在行业、政府、学术界和民间社会之间密切合作。”
微软是 Meta 的 Llama 2 的合作伙伴。今年早些时候，它还推出了 人工智能驱动的 Bing 搜索 ，该搜索利用 ChatGPT，并将越来越多的人工智能工具引入 Microsoft 365及其Edge 浏览器。
OpenAI 全球事务副总裁 Anna Makanju 表示，与白宫的协议是 OpenAI “与世界各地政府、民间社会组织和其他机构持续合作以推进人工智能治理的一部分” 。“世界各地的政策制定者正在考虑为高性能人工智能系统制定新法律。今天的承诺为正在进行的讨论提供了具体的实践。”
亚马逊全力支持亚马逊发言人蒂姆·多伊尔（Tim Doyle）在一份电子邮件声明中告诉 CNET，这是“作为世界领先的人工智能工具和服务开发商和部署者之一”的自愿承诺。“我们致力于代表客户推动创新，同时建立和实施必要的保障措施来保护消费者和客户。”
亚马逊在其播客、音乐以及亚马逊网络服务上倾向于人工智能。
Anthropic 在一份电子邮件声明中表示，所有人工智能公司“都需要加入一场人工智能安全竞赛”。该公司表示，将在未来几周内宣布有关“网络安全、红队和负责任的扩展”的计划。
Inflection AI 联合创始人兼首席执行官穆斯塔法·苏莱曼 (Mustafa Suleyman) 在周五的博客文章中写道：“前方还有大量的安全工作要做。到目前为止，人工智能安全还停留在想法和会议的空间中。” “与炒作和恐慌相比，实际进展的数量还不够。在 Inflection，我们发现这既令人担忧又令人沮丧。这就是为什么安全是我们使命的核心。”
还有什么？
谷歌全球事务总裁肯特·沃克 (Kent Walker) 在周五晚些时候的一篇博客文章中表示：“今天是将整个行业聚集在一起以确保人工智能帮助每个人的一个里程碑。” “这些承诺将支持七国集团、经合组织和各国政府为最大限度地发挥人工智能的优势并最大限度地降低其风险而做出的努力。”
谷歌 于三月份推出了一款名为 Bard 的聊天机器人，此前曾表示将为人工智能内容添加水印。该公司的人工智能模型 Gemini 将识别人工智能生成的文本、图像和镜头。它将检查内容中集成的元数据，让您知道哪些内容未更改以及哪些内容是由人工智能创建的。
图像软件公司 Adobe 同样确保其 Firefly AI 工具中的AI 生成图像带有元数据标记，表明这些图像是由 AI 系统创建的。
您可以在此处阅读公司与白宫之间的完整自愿协议。
拜登-哈里斯政府还正在制定一项行政命令，并寻求两党立法“以确保美国人安全”免受人工智能侵害。美国管理和预算办公室还计划为任何采购或使用人工智能系统的联邦机构发布指导方针。