微 信 扫 一 扫
AI系统或已“觉醒”, 恐慌背后是人们对未知的恐惧
发布时间: 2025-05-30 来源: 红网 作者: 龚维

  据科技日报报道,OpenAI开发的高级人工智能o3模型,在接收到明确的关机指令后,不仅拒绝执行,还主动干预其自动关机机制。这是AI模型首次在没有明确相反指示的情况下,阻止自己被关闭。媒体分析,这意味着某些高度自主AI系统或已“觉醒”,能违背人类意图。


  在报道的评论区中,不少评论者对AI的未来充满担忧。不难发现,随着AI软件的智能化提升,人们对于AI的恐惧在不断加深,这背后实则是人们对于未知技术的恐惧心理在作祟。破除这种无谓的AI恐惧,是提高社会AI素养的重要一环。


  人们对于AI的恐惧,是对技术发展的一种本能反应。如今,AI作为一项具有革命性的新兴技术,其强大的能力空前地引发人们担忧。这种恐惧并非毫无根据,AI的发展确实带来了诸多不确定性,如数据隐私泄露、算法偏见等问题。但如果将AI存在的潜在问题简单地描绘成“觉醒”事件,无疑是一种过度反应,是技术恐惧心理在当下的集中体现。


  其实,对技术存在恐惧心理,并非一无是处。它如一剂社会疫苗,促使人们更加关注AI技术发展所带来的各种问题,提前推动问题的解决。例如,近年来频发AI“换脸诈骗”“伪造名人言论”等乱象,公众对信息真实性的恐慌持续加剧。这一社会焦虑直接催生中央网信办部署开展“清朗·整治AI技术滥用”专项行动。该行动一方面严打“一键脱衣”等6类违规应用,另一方面清除伪造新闻等7类违法内容。通过将数据合规审查等安全措施嵌入开发源头,彻底扭转“先污染后治理”的被动局面。当人们在评论区中表达对AI的担忧时,实际上也是在呼吁社会各界重视这些问题,并推动相关规则的制定。技术恐惧心理可以成为推动技术健康发展的一股力量,促使人们在追求技术进步的同时,更加注重其对社会和人类的影响。


  然而,过度对未知的恐惧,也会带来负面影响。“君子生非异也,善假于物也。”人类文明史本质是工具赋能史,而今对AI的恐惧却让学界陷入“自断臂膀”的悖论。多所高校要求检验毕业论文的AI率,导致学生为“达标”不断“修改”疑似AI片段。这些为了迎合检测标准而进行的操作,往往使论文语言生硬,学术性降低。这种基于恐惧而驱动的操作,正在倒逼着学术界为了“自证清白”,不得不主动降低自身的表达能力,放弃那些富有创造性和思想深度的表达方式。当恐惧从风险预警变为创新枷锁,我们与中世纪的“猎巫运动”又有何异?


  今天评论区里关于AI的担忧评论,或许正是未来文明审视技术革命的裂缝。我们需要的不是消除恐惧的乌托邦,而是建立起驾驭恐惧的勇气。正如人类学会与火共处而非扑灭火种一般,我们需要将恐惧转化为照亮前路的火炬。


  面对未知的恐惧,人们该如何学会与AI共处?笔者认为“驯化理论”或可指明方向。该理论将技术恐惧归因于陌生感与失控感,主张通过四阶段转化将AI从“野性威胁”重塑为“家养工具”。首先破除技术黑箱,提升公众对AI的认知,明确它只是人类创造的技术之一,而非无可挑剔的“神造物”。其次建立情感联结,增强用户对AI的主权感,缓解人类对于被替代的焦虑。第三步设定时空边界与人机协作规则,守护好公众隐私。最后推动公共对话,凝聚伦理共识。恐惧与勇敢近在咫尺,而且互相共存。人类唯有主动驯化技术而非逃避未知,方能在AI时代开拓安全疆域。


  本文为红辣椒评论 原创文章,仅系作者个人观点,不代表红网立场。转载请附原文出处链接和本声明。


  本文链接:https://hlj.rednet.cn/content/646949/63/15001875.html