证券日报评论:严防生成式AI“深度造假”_每日聚焦
(资料图片)
■谢若琳
随着AI的应用越来越广泛,诸多问题开始显现,首当其冲的就是内容真实性。AI作为工具并不具备判断力,其生成的结果是基于数据投喂和算力养成的综合产物,那么,这些数据是否真实合法,直接决定了AI是否能大规模应用。
日前,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》(以下简称《征求意见稿》),向社会征求意见。《征求意见稿》明确“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源”,并就生成式人工智能服务商的准入,算法设计、训练数据选择、模型、内容,以及用户个人隐私、商业秘密等方面提出了相关要求。
其中,有两条内容强调了真实。一则是在第四条“提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗”中表示,“利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息”。另一则是在第七条“提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责”中表示,“能够保证数据的真实性、准确性、客观性、多样性”。
这意味着,AIGC的研发平台不但要保证投喂的数据资源真实可靠,同样要对生成的内容负责,这无疑是一项巨大的挑战。
事实上,在全球AI赛道的顶级选手中,还没有任何一个平台对AI生成结果的真实性进行担保。此前,谷歌推出的人工智能聊天机器人巴德(Bard)与ChatGPT对垒,却因巴德犯了事实错误,导致谷歌的股价暴跌,一夜之间市值蒸发约1056亿美元。微软则在一份免责声明中表示:“必应是由人工智能驱动的,因此有可能出现意外和错误。”
对生成式AI研发者而言,确保结果真实的难度之大可想而知。笔者认为,在研发、实验阶段,应该允许AI不断试错、修正、完善,但随着生成式AI作为工具进入生产领域,开始进行搜索、绘画、问答,甚至编程、视频生成等工作,那么确保真实就应该是基础门槛。
换句话说,AI要抢人类的工作,从底层模型起就先要解决是否真实准确的问题。如果这一问题还未有定论,那么研发平台应该审慎向大众层面推出新品,更不应草率地将AI运用于商业环境中。
如今,全球基于AI的创业公司如雨后春笋般涌现,仅在3月份就有近10款AI视频生成器诞生。输入几个关键字就能获得一段文字、一张图片甚至一个视频,这无疑体现了科技的魅力。但部分企业为了追风口就仓促推出新品,导致产品质量良莠不齐,一些产品生成的内容滑稽可笑,更有一些产品生成的内容存在虚假。这类“深度造假”的内容一旦传播开来,极易引发社会信任危机。
在笔者看来,面对新技术,我们既要抓住机会、勇于攀登,也不能回避技术发展带来的各类安全风险和伦理挑战,需构建合理规范的数字规则,做“负责任的”人工智能,立好规矩明确红线,防范潜在风险,推动科技向善。
关键词:
责任编辑:宋璟
-
证券日报评论:严防生成式AI“深度造假”_每日聚焦
-
云闪贷网贷逾期2个月延迟还款征信有什么影响_焦点短讯
-
世界看点:中央经线是什么意思_中央经线
-
怎么设置文件为只读 怎么设置文件为只读和隐藏属性
-
科伦药业获19家机构调研:目前创新药研发中有33个项目,14个在临床,重点聚焦肿瘤,如肺癌、乳腺癌、胃癌,还有自免等非肿瘤项目(附调研问答)
-
“第三支箭”加快显效 房企融资暖意浓
-
长沙站到长沙南站有多远坐地铁怎么走(长沙站到长沙南站有多远)|世界观天下
-
当前最新:大张伟老婆_张伟欣
-
天天热讯:北京长峰医院发生火灾 尹力殷勇赶赴现场指挥看望慰问伤员并连夜召开调度会
-
超美!千架无人机点亮学校夜空|精选
-
如何解开手机图形密码(如何解开手机密码锁)
-
城堡士兵战争官网在哪下载 最新官方下载安装地址_动态
-
每日速看!小米6款新品价格汇总:239元到14999元你想要哪个?
-
张杰欺骗了唐嫣什么的?大V发文:张杰与唐嫣有染,纯属谣言|今日热搜
-
世界热文:饕餮大餐 野菜盛宴|榆钱:今日保健菜,昔日“救命粮”
-
2023年4月18日北京市冬瓜批发价格行情
-
美国联邦存款保险公司:重申对银行进行特别评估的计划。-世界关注
-
我国种业振兴行动取得积极进展 种质资源保护利用水平大幅度提升
-
来一斤烈酒二十串烤肉是什么生肖,最佳精选
-
五笔一级简码表和二级简码表_五笔一级简码表
-
冲压模具领军企业震裕科技举办2022年业绩说明会
-
【天天速看料】歌尔股份跌停 某券商在其历史高位喊增持
-
受行天下隐空人_受行天下-全球热闻
-
27W疾速制冷,iQOO散热背夹2 Pro正式全网开售
-
外媒:中国一季度经济数据超出预期 第二季度会更高_全球今日讯
-
1158万人!今年高校毕业生数量再创历史新高!找工作更难了...
-
网约车平台降低过高抽成出台时间表,新就业形态劳动者权益保护稳步推进
-
聊城植发医院哪家好
-
多层次资本市场周报:主要指数微回调 环球新要闻
-
分频器的作用与接法_分频器的作用
-
环球快报:连打6届世界杯?还没有人!包括C罗梅西也不行?
-
国办调整第19届亚运会和第4届亚残运会工作领导小组组成人员
-
什么是乌龙球简介_什么是乌龙球 天天热文
-
中央财政向实际种粮农民发放100亿元补贴资金 统筹支持春耕生产|全球微动态
-
巴基斯坦连接阿富汗的干道山体滑坡,20多辆卡车被埋,2人死亡