当前位置:首页 > 媒的说丨AI好用 更需规范 >

媒的说丨AI好用 更需规范

来源夜上海 - 论坛首页
2025-04-20 17:54:54

近来,用AI技术“复活”已过世明星的视频在网上热传。其中,有离世明星的家属发声,称“不能接受”“未经我的同意这是在揭伤疤”等,并要求下架视频。对此,广大网友一边倒地表达了支持,表示必须尊重逝者。目前,相关视频已下架。

随着人工智能技术的不断突破创新,AI应用越来越广泛,以前需要特别深厚专业知识及技能的操作,现在利用一些AI软件就能轻易实现,这让很多人得以展现自己的才华与奇思妙想,但是,技术的突飞猛进,也带来一些隐患和问题,比如前面提到的“复活明星”事件,还有网络流传甚广的明星“换头”视频等等,这些都引发了针对AI技术被滥用的网络热议。

AI技术带来的便利和冲击,其实简单地理解,就是很多技术含量较高的工作将大幅降低门槛,比如说特效制作、文本创作等;一些原本安全性较高的举措将变得不再那么安全,甚至可能被不法分子反过来利用,比如通过视频聊天确认身份、发布出镜视频表达自身观点等,因为我们无法确定视频中的形象是否就是本人。事实上,利用AI技术进行犯罪的案例在一些国家和地区已有出现,理应引起警惕和重视。

科技改变生活,这一点毋庸置疑,但是,在新技术出现之初,在大众对于新技术能做到什么、改变什么还没有产生足够清晰认知和防备的时候,对于新技术的广泛应用,特别是像人工智这样能大幅改变当下科技生态的超新技术,理应在科技、法律等领域专业人士的支持下,未雨绸缪地做好必要应对——哪些领域可以加快应用,哪些领域要谨慎使用,哪些要有所控制……这样可以有效化解“四处开花,无从下手”的监管尴尬,同时,也利于有重点分层次地加强引导,以便更好地利用新技术凝聚新质生产力,为经济社会发展注入更新活力。

当然,新技术带来的改变确实不好估量,这就需要“亡羊补牢”的意识。要在新技术发展与应用的过程中,及时发现问题及时打好“补丁”,不断强化道德与法制的约束,使其在合法合理合情的框架内充分发挥技术创新的强大推动力。回顾人类科技史,这正是机器人技术的发明与应用和“机器人学三大法则”的关联所在,突破性更大的AI技术更应规范其应用,必须让其在可控范围内健康发展,否则,很可能就会为人类打开又一个“潘多拉魔盒”!