之江轩:警惕人工智能带来六大陷阱

从ChatGPT到Sora,这两年人工智能的发展速度之快、影响范围之广、渗透能力之强,让人们直观地感受到未来已来。

新技术的发展,有时会伴随着悖论和陷阱。面对AI市场这片蓝海,人工智能带来的六大陷阱需要引起高度警惕。

一、数据安全陷阱:你的“AI朋友”能守口如瓶吗

在科幻电影中,因为数据泄露带来的安全隐忧曾在很多情节中出现过。而在现实中,随着AI技术在各行各业的广泛应用,数据安全的确成为一个重要且紧迫的问题。

人工智能系统的个性化服务,往往依赖于大量个人数据的输入和模型训练。也就是说,你的“AI小伙伴”越智能,个人信息“喂养”得越频繁,你在它面前就越像个“透明人”。数据的收集、存储、处理和使用过程,任何一个环节出了差错,就可能存在个人健康记录、金融信息、位置数据等敏感信息泄露的风险。

除了隐私泄露外,研究人员发现,当前人工智能技术在实践应用中,还可能带来模型中毒、数据篡改、内部威胁、蓄意攻击等数据安全威胁。而AI时代数据安全治理有哪些出路,也成为相关领域的热门课题。

之江轩:警惕人工智能带来六大陷阱

图源:“科学家杂志”微信公众号

二、侵权陷阱:AI创作不能“随心所欲”

我们一贯认为“艺术是人类最终的圣殿”,人类之外无法取代。但如今,生成式人工智能打破了人类对创作的“垄断”。谷歌公司旗下的人工智能模型“双子座(Gemini)”根据“三言两语”就能生成一篇短篇小说或诗歌;去年,“AI孙燕姿”等AI翻唱刷屏网络,登上热搜。

一边是AI创作的喷涌式发展,另一边是艺术家们的“集体担忧”。今年4月,世界各地的200余名音乐人联合发布了一封反对AI的公开信,呼吁数字音乐开发商“停止使用人工智能来侵犯和贬低人类艺术家的权利”。

生成式人工智能推动了创作方式的变革,也引发了关于版权归属、责任界定和利益分配等问题。不久前,全国首例“AI声音侵权案”一审宣判,四个被告方使用原告声音、开发涉案AI文本转语音产品未获得合法授权,构成侵权,有的赔礼道歉,有的赔偿原告各项损失25万元。

目前,探索建立对于AI生成内容侵权判定的具体规则、加强对相关领域的法律监管是必要而且是迫切的。AI创作不能随心所欲,须守好边界,行有所止、行有所戒。

三、认知陷阱:人工智能也有“智商欠费”的可能

人工智能也有智商“掉线”之时,究竟是“人工智能”还是“人工智障”,需要一双慧眼去辨别。

当前,大语言模型在处理和生成信息时,仍有生成错误或误导性回答的概率。训练数据的选择、算法设计的方式,以及最终应用场景中的使用方法,都可能导致AI“犯迷糊”。

如,有网友在使用人工智能系统生成旅游攻略时,系统忽略了天气等客观因素,“AI导游”带着网友在烈日下户外徒步,令人哭笑不得;还有网友发现,在某款语言模型的两个子系统中,分别用中、英文问同一个问题,则会得到截然不同的答案。

四、伦理陷阱:“数字生命”能真正寄托思念吗

现实与虚拟的界限、人机情感的可能性等,一直都是人工智能面临的伦理问题。

此前,一位音乐人利用AI技术让因病去世的女儿在数字世界“复活”,原本天人永隔的亲人,通过人工智能进行互动,弥补了情感的缺憾。但同时,有网络博主通过AI制作已逝公众人物的视频,打着温情的名义收割流量,备受争议。

有人因此想到《流浪地球2》里的“数字生命”,“质疑图恒宇,理解图恒宇,成为图恒宇”,这就是AI存在的意义,抚慰悲伤、治愈人心;也有人因此开始思考技术该有的界限和底线。AI“复活”必须经过家人同意,并符合法律,否则就要警惕侵权陷阱和伦理陷阱。

技术的“一体两面”并非新论,历史上很多重大的技术革新都曾被视为“双刃剑”,既带来巨大益处,也引发新的挑战和问题。科技能否暖人心,究竟是“数字疗愈”还是“数字陷阱”,最终要看它是不是向善,是不是为美好生活所服务,有没有界限分明的底线和红线。

之江轩:警惕人工智能带来六大陷阱

电影《流浪地球2》中的“数字生命”图丫丫 图源:微博@电影流浪地球

五、诈骗陷阱:眼见不一定为实

人工智能时代,文字、声音、图片和视频都有可能是假的,“眼见为实”不再是绝对真理。当我们觉得“换脸”“变声”技术只是“好玩”的时候,骗子们已盯上了深度合成等人工智能技术。

当前,电信诈骗已走向智能化、定制化,相关案件时有发生。据某机构发布的《2024人工智能安全报告》显示,2023年,基于AI的深度伪造欺诈暴增3000%,基于AI的钓鱼邮件增长1000%。

人工智能技术不仅可以让各种骗术“有图有真相”,甚至还能“有视频”,这让骗子伪造的身份看似更加“可信”,令普通老百姓防不胜防。在前段时间香港警方披露的多人“AI换脸”诈骗案中,受害人在多人视频会议中被要求先后多次转账,而除了受害人是“真人”上线,其余都是经过AI“换脸”的诈骗同伙。

之江轩:警惕人工智能带来六大陷阱

被骗2亿港元,男子参加多人视频会议只有自己是“真人” 图源:“央视网”微信公众号

六、舒适陷阱:在AI面前如何当“伸手党”

当我们越来越频繁地借助AI帮我们完成计划制定、资料搜集、文本写作时,AI系统在反复训练过程中不断“成长”,而我们原本熟练的技能却在“偷懒”中面临退化的风险。某媒体的一项调查显示,52.6%的受访者表示“比较担心”AI工具的普及会让个人的表达能力变差,20.9%的受访者表示“非常担心”。

也有学者认为,选择“节能”模式是人类的天性和本能。人工智能时代,人类的机械性体力技能和计算型脑力技能也许会逐渐退化,但从长远来看,也会催生诸如创新研发、优化设计、实时分析等新的技能增长点。

是“退化”还是“新生”,是“去技能化”还是“再技能化”,取决于我们在人工智能面前当“伸手党”时,对技能退化、创造力减弱、决策依赖等一系列问题能不能多一分感知和警惕,同时,能否相对应地去提升更高阶的技能,从而更好地驾驭技术。

人工智能的未来就像“薛定谔的猫”,充满不确定性。但可以确定的是,人类不会在各种陷阱面前望而却步、畏首畏尾。面对人工智能带来的陷阱,坚持开放而审慎、包容而敬畏、大胆而自信的心态,我们就能与新技术的更迭保持同频,站在人工智能的肩膀之上抓住机遇,确保AI技术朝着有益于人类福祉的方向发展。

大观网-36氪的头像大观网-36氪
上一篇 2024 年 6 月 16 日 下午5:10
下一篇 2024 年 6 月 16 日 下午5:30

相关推荐