Reddit联合创始人：科技行业在解释AI方面“音盲”，虚假信息满天飞

　　Reddit联合创始人亚历克西斯·奥哈尼安周三表示 ，科技行业在解释人工智能并向公众适当告知真实风险方面一直“音盲 ”。

　　奥哈尼安表示，围绕人工智能的辩论应聚焦于实质性风险 ，而不是那些可被用来捞取政治分数的议题
，并认为公众知情对于驾驭这项技术至关重要 。他承认，科技行业在这方面加剧了问题 ，在解释人工智能方面做得“相当音盲”，同时表示其风险比一些人担心的“终结者和天网 ”场景更为平庸
。

　　天网是《终结者》电影中一个虚构的自我意识人工智能系统，它将人类视为威胁并试图消灭人类。

　　这些言论出现的前几天
，人工智能实验室OpenAI和Anthropic的研究人员就一项被称为递归自我改进（RSI）的技术快速进步发出警告 。

　　RSI 指的是人工智能系统帮助开发更先进的模型，可能形成一个循环：能力越来越强的系统会参与构建能力更强的系统
。

　　令人担忧的是 ，如果人工智能系统接管新模型的训练过程
，其人类开发者最终可能失去对这些系统如何演变的控制。

　　“灭绝 ”警告升级，更多OpenAI、Anthropic研究人员加入呼吁人工智能放缓的行列

　　奥哈尼安认为 ，虽然人工智能风险真实存在
，但末日式的“终结者”风格警告可能会分散人们对真实担忧的注意力，例如智能体集群 ，即多个人工智能代理协同工作以执行复杂任务 。

　　“存在风险
，我确实认为它们比人们想象的要更良性，或者说更平庸 ，
”他说。

　　他将人工智能比作核能，因为这两项技术都是强大的科学进步
，如果负责任地管理，既能造成严重伤害 ，也能带来重大好处
。

　　“我希望这朝着健康的方向发展
，而这只需要更少的推文，更多像是有思想的对话 ，”奥哈尼安说。

　　“末日论者的推文令人沮丧
， ”他说，但没有具体说明 ，并补充说当“口号实际上并非真实事物
”时
，这“令人沮丧” 。

　　本月早些时候，一名人工智能研究员从Anthropic辞职 ，并指责该公司和OpenAI在开发这项强大技术方面行为不负责任
。

　　雅各布·考克森曾在两家公司担任研究员
，他在社交媒体上表示，他辞职是因为担心Anthropic和OpenAI正在“拿我们的生命赌博 ”。他说 ，构建人工智能的人“真诚地相信它可能在这个十年结束前杀死我们所有人
” 。

　　对奥哈尼安来说，细微差别至关重要
。“我们应该讨论重要的 、真实的事情
，而不是那些可能捞取一些快速政治分数的事情，我有信心我们可以进行这场讨论。”

　　“这让我感到沮丧 ，因为我看到所有这些虚假信息满天飞
，但我确实认为从长远来看，我们会做对的 ，这就是我希望发生的 。所以我对那部分并不特别担心
。 ”