诺贝尔和平奖得主雷萨:如果不现在就限制 AI,人类将失去自主权
诺贝尔和平奖得主玛丽亚·雷萨(Maria Ressa)近日在挪威奥斯陆出席探讨民主面临威胁的会议期间接受采访,释放了针对人工智能发展的严厉监管警告。这位拥有菲律宾、美国双重国籍的记者因记录大型科技巨头的强大影响力,于2021年共同获得诺贝尔和平奖,目前担任联合国国际人工智能科学小组联合主席,负责评估AI对全球民众生活的改变。
雷萨明确AI监管定性:公共安全议题而非言论自由问题
雷萨在采访中明确表示,呼吁对AI实施监管不属于言论自由层面的讨论,而是关乎公共安全的紧急事项。她指出当前已来到关键节点,若不立即采取行动限制AI的无序发展,事态将很快脱离人类掌控,最终导致人类丧失自主选择权。她同时呼吁普通民众主动投身AI监管的舆论呼吁,向政界施加压力,推动相关立法尽快出台。
三波AI浪潮逐步侵蚀人类主权:从注意力劫持到行为替代
雷萨在发言中拆解了人工智能对普通大众的三阶段影响,具体包括:
- 第一阶段冲击来自社交媒体平台:平台通过算法抢夺用户注意力,在撕裂社会共识的同时将个体困于孤立的信息环境;
- 第二阶段冲击依托人类本能诉求:以聊天机器人为代表的应用利用人类对亲密情感的本能需求,入侵生理与心理机制,进一步绑定用户行为;
- 第三阶段冲击直接指向人类主权:具备自主行动能力、多智能体协同的前沿AI不再仅模仿人类行为,更会直接代替人类做出决策、采取行动,直接冲击人类的自主决定权。
针对部分批评者认为AI监管会拖慢AI竞赛、让中国占得先机的说法,雷萨直接驳斥其为“高明的说辞”,并指出事实上中国等国家为本国公民设置了更多AI安全防护机制,以TikTok为例,其面向中国国内使用的版本就设置了明确的年龄限制。
公益主导的去中心化平台被视作数字公共空间可行方案
针对当前大型科技公司掌控主流通信平台的现状,雷萨提出应当建设由公共利益团体运营、完全脱离大型科技公司掌控的通信平台,类比城市公园等公共基础设施的定位。她旗下新闻机构Rappler2023年推出的Rappler Communities项目正是这一理念的实践:该应用基于开源、安全、去中心化的Matrix协议搭建,既能让新闻编辑部与读者直接沟通,也能让读者之间开展真诚的对话交流。目前Rappler已邀请菲律宾其他本土媒体入驻该平台,同时正计划将这套模式推广到东南亚其他新闻机构,旨在打造民众可安心使用的数字安全空间,让民众在沟通中学会倾听,保障民主社会的良性运转。