苹果签署白宫AI安全承诺

根据周五的新闻稿,苹果已签署了白宫发起的关于开发安全、安全和值得信赖的人工智能的自愿承诺。该公司将很快推出其生成式人工智能产品,苹果智能,将其应用于核心产品,让20亿用户接触到生成式人工智能。

苹果加入了其他15家科技公司,包括亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI等,这些公司于2023年7月同意了白宫关于开发生成式人工智能的基本规则。当时,苹果还没有透露计划将人工智能融入iOS的深度。但是我们在6月的WWDC大会上清楚地听到了苹果的声音:苹果将全力投入生成式人工智能,首先是通过将ChatGPT内嵌到iPhone的合作伙伴关系。作为联邦监管机构的频繁目标,苹果希望提前表明愿意遵守关于人工智能的白宫规定,这可能是在未来人工智能监管战爆发之前试图讨好关系的尝试。

但是苹果对白宫的自愿承诺具有多大约束力呢?并不多,但这是一个开始。白宫称之为苹果和其他15家人工智能公司共同开发安全、安全和值得信赖人工智能的“第一步”。第二步是拜登总统于10月签署的人工智能行政命令,目前有几项法案正在联邦和州立法机构审议中,以更好地监管人工智能模型。

根据承诺,人工智能公司承诺在公开发布之前对人工智能模型进行红队(扮演对抗性黑客以测试组织安全措施)测试,并与公众分享这些信息。白宫的自愿承诺还要求人工智能公司将未发布的人工智能模型权重保密处理。苹果和其他公司同意在安全环境中处理人工智能模型权重,将接触模型权重的员工数量尽可能减少。最后,人工智能公司同意开发内容标注系统,例如水印,帮助用户区分哪些是人工智能生成的。

此外,美国商务部表示将很快发布一份关于开源基础模型潜在益处、风险和影响的报告。开源人工智能越来越成为一个政治上充满争议的监管战场。有些阵营希望通过限制强大人工智能模型的模型权重的获取来确保安全。然而,这样做可能会显著限制人工智能创业公司和研究生态系统。白宫在这里的立场可能对更广泛的人工智能行业产生重大影响。

白宫还指出,联邦机构在执行今年10月行政命令中制定的任务方面取得了重大进展。迄今为止,联邦机构已新增了200多个与人工智能相关的职位,向80多个研究团队提供了计算资源,并发布了几个开发人工智能的框架(政府喜欢框架)。