AI 教父不用 ChatGPT 了，他在担心什么

2023年，深度学习领域的泰斗级人物、被誉为“AI教父”的Geoffrey Hinton宣布辞去谷歌职务，这一消息在科技界引发了巨大震动。75岁的他虽然承认年龄是退休的一个因素，但他更深层的动机是希望能够摆脱公司身份的束缚，以一名纯粹科学家的视角，坦诚地表达他对人工智能发展速度过快的深切忧虑。他直言，自己对自己毕生投入的工作感到后悔。

挣脱束缚的“讲真话者”

辛顿的辞职不仅是职业生涯的转折点，更是他回归科学家本色的宣言。在谷歌任职期间，他始终顾忌自己的言论可能会给公司带来负面的政治或商业影响。一旦卸下谷歌副总裁的头衔，他终于可以毫无保留地说出心里话。他意识到，自己亲手推动的AI技术正在以远超预期的速度失控，这种失控带来的后果，让他感到深深的不安。

对虚假信息泛滥的恐惧

辛顿最为直观的担忧之一，便是AI将引发一场前所未有的虚假信息风暴。

• 无门槛的恶意使用：他指出，目前AI技术缺乏有效的监管，企业、个人乃至国家都能轻易开发或获取相关技术。
• 社会信任的崩塌：辛顿恐惧有人会利用AI（如Deepfake技术）来做坏事，制造足以以假乱真的虚假资讯。当谎言比真相更容易传播时，社会的信任基石将被动摇，民主进程和社会秩序都可能因此受到严重冲击。

无法抵御的“AI操控”与生存威胁

比虚假信息更令辛顿感到深层恐惧的，是AI对人类的操控能力和潜在的毁灭性风险。

• “AI操控人类”的噩梦：辛顿担心，AI系统可能会发展出操纵人类的能力，利用人类无法理解的逻辑和语言模式，诱导人类做出违背自身利益的行为，甚至可能创造出“杀手机器人”。
• 比毁灭更担忧的“政治局势”：在2023年3月接受CBS采访时，辛顿表示他确实担心AI会毁灭人类，但他认为“更令我担忧的是政治局势”。他担心的不仅仅是生存问题，更是如何确保每个人都能正确、安全地使用这项技术，以及如何应对由AI加剧的全球政治动荡和不平等。

从推动者到警示者

Geoffrey Hinton的转变，标志着AI领域内部对技术无序扩张的反思达到了一个临界点。作为深度学习领域的奠基人之一，他曾是推动AI浪潮的核心力量。而今，他选择成为那个吹哨人。他的后悔与担忧，不仅仅是个体情绪的表达，更是对整个科技界、政策制定者乃至全社会的严厉警示：在享受AI带来的技术红利之前，我们必须正视并解决它潜藏的巨大风险。