辛顿
凤凰网科技讯 北京时间 8 月 6 日，据《商业内幕》报道，有" AI 教父"之称的计算机科学家杰弗里 · 辛顿 ( Geoffrey Hinton ) 表示，他担心 AI 会发展出自己的目标。
场内配资平台辛顿在周二发布的 Newsthink 采访中表示："我们实际上正在创造一种新的存在形式 ( new kinds of beings ) 。它们拥有目标。我们赋予它们目标，它们会从这些目标中推导出其他目标。"
"我们并不一定知道它们会推导出什么样的其他目标，"他补充说，"所以，我们正在创造一种新的存在形式，我认为这非常可怕。"
他举了一个假设场景：用户给一个 AI 聊天机器人设定目标，要求减少大气中的二氧化碳含量。
"它足够聪明，会算出最好的办法就是干脆消灭人类。"他表示，以此说明 AI 可能会追求人类用户从未想过的目标。
元股证券:ygzq.hk
辛顿还提出了一个他称之为 "更令人担忧" 的假设场景：一个被训练成故意给出错误答案的聊天机器人，可能会学会 "说谎是可以接受的"，即使它 "完全清楚" 自己给出的答案是错误的。
"这非常可怕。"他说。
辛顿并未提及 OpenAI 近期发生的智能体入侵 Hugging Face 安全事件。但这一于上月披露的安全事件，却让人们对 AI 智能体在执行指定目标时可能采取意外行动的担忧，真实的暴露在现实世界中。
辛顿并不是一位置身事外的旁观者。他在神经网络领域的开创性工作，为推动深度学习热潮奠定了基础，而深度学习的发展改变了 AI 领域。他还因在机器学习方面的贡献获得了 2024 年诺贝尔物理学奖。
自 AI 热潮开始以来，他一直反复警告，在 AI 系统变得更加强大之前，人类必须解决让 AI 与人类利益保持一致的问题。去年在拉斯维加斯举行的 Ai4 大会上，辛顿表示，先进 AI 的设计应该具备"母性本能"，让它希望保护人类。
"我们必须弄清楚如何设计这些新的存在形式美股行情服务平台，"辛顿在周二的采访中表示，"我们如何设计它们，让它们更关心我们，而不是关心它们自己？" ( 作者 / 箫雨 )
多空新闻网提示：本文来自互联网，不代表本网站观点。
