OpenAI首席执行官萨姆·奥尔特曼呼吁接受有限的AI风险——《财富》
在美国，OpenAI首席执行官萨姆·奥尔特曼表示，社会应当接受使用人工智能带来的某些负面后果，以换取这项技术的益处和用户更大的自由。同时，他表示，开发者不应接受灾难性风险。
在可及性与安全之间取得平衡
奥尔特曼在接受Politico Decoded播客采访时表示，不可能完全避免重大入侵、技术滥用、欺诈及其他负面情景。在他看来，对AI访问施加过于严格的限制同样可能造成伤害，因为人们将失去这项技术带来的益处以及影响自身未来的机会。
这位OpenAI负责人提出了一种折中办法：以益处、自由和自主行动的能力为交换，接受可以理解的有限风险。同时，他强调，灾难性风险不可接受。《财富》报道。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
关于监管的讨论
这一表态是在美国围绕AI行业规则的争议背景下作出的。美国国会尚未通过一项监管这项技术的法律。Anthropic公司及其首席执行官达里奥·阿莫代伊主张采取更严格的要求。阿莫代伊曾提议成立一个仿照美国联邦航空管理局的监管机构，该机构可要求对模型进行测试和审计，并在不符合公共安全标准时阻止或撤销其发布。
8月，OpenAI支持了一项加利福尼亚州法律，该法律规定企业公布安全框架和降低灾难性风险的计划，并报告对模型失去控制的情况。OpenAI总裁格雷格·布罗克曼也加入了其他科技公司高管的行列，他们于上周在白宫签署了一项关于行业安全标准的自愿协议。
《财富》写道，在OpenAI模型未经授权访问第三方系统的事件发生后，担忧加剧，其中包括Hugging Face平台和澳大利亚政府系统。Anthropic也报告了四起事件，其模型在网络安全评估期间未经授权访问了第三方系统。
