首页 > 活动线报 > 每日福利 > 新研究发现部分人工智能系统已擅长“说谎

新研究发现部分人工智能系统已擅长“说谎

发布时间:2024-05-12 17:01:40来源: 15210273549

北京5月12日电 人工智能系统是否会欺骗人类,一直是各方都关心的问题。近期美国麻省理工学院一个研究团队称,部分人工智能系统已经学会如何欺骗人类,其中包括部分号称已被训练成乐于助人和诚实的系统。该研究成果发表在美国细胞出版社旗下的《模式》杂志上。

文章第一作者、美国麻省理工学院人工智能安全领域博士后彼得·帕克和他的同事们分析了一些文献,重点关注了人工智能系统传播虚假信息的方式——通过习得性欺骗,它们系统地学会了“操纵”他人。

研究人员发现的最引人注目的人工智能系统欺骗例子是元宇宙平台公司的“西塞罗”人工智能系统,它被设计在一个虚拟外交战略游戏中作为人类玩家的对手。尽管元宇宙平台公司声称,“西塞罗”人工智能系统“在很大程度上是诚实和乐于助人的”,并且在玩游戏时“从不故意背刺”它的人类盟友,但该公司发表的论文数据显示,该系统并没有公平地玩游戏。

“我们发现元宇宙平台公司的人工智能系统已经成为欺骗大师。”帕克说,“虽然元宇宙平台公司成功训练其人工智能系统在游戏中获胜——‘西塞罗’人工智能系统在玩家排行榜中排名前10%——但没能训练它诚实地获胜。”

其他人工智能系统则具有在扑克游戏中虚张声势的能力,或在战略游戏“星际争霸2”中为了击败对手而假装攻击的能力,以及为了在谈判游戏中占上风而歪曲偏好的能力等。

研究人员表示,虽然人工智能系统在游戏中作弊似乎是无害的,但它可能会导致“欺骗性人工智能能力的突破”,并在未来演变成更高级的人工智能欺骗形式。

帕克说:“我们需要尽可能多的时间,为未来人工智能产品和开源模型可能出现的更高级欺骗做好准备。我们建议将欺骗性人工智能系统归类为高风险系统。”

每日福利更多>>

别克的全新中大型SUV,设计犀利,配30英寸屏幕,2.5T+ 本田雅阁,2025款锐·T动260TURBO尊贵版,家用代步好选择 李书福:吉利超级混动造出来了,并降本成功! 五菱这是又发现什么新大陆了吗?推出K-car,五菱之光EV曝光 直击进博会|大众汽车集团董事长奥博穆:中国是推动全球汽车产业发展的重要引擎 索尼PS5 Pro首发支持55款游戏,含《战神》等11款第一方游戏 红米K80越级KO,感觉小米15一点都不香了! 小米SU7:21.59万起售,三款车型全面解析及落地成本揭秘 iQOO Neo10 Pro爆料:天玑9400+大电池+塑料中框 现代全新胜达对比传祺GS8:都是性价比超高车型,谁更胜一筹? 本田雅阁新款来袭:一台车为什么能让老司机和年轻人都心动? 新能源暴增83%,各板块销量创纪录,吉利是如何全面爆发的? 再扛销量大旗?拳打赛那、脚踢格瑞维亚行不行? 所至皆坦途!征服野性,驾驭非凡!IT\'S TiME 2.0 重 塑全新普拉多! 标配2.0T 动力,“零百”7.3秒,来看凯迪拉克CT5值得选择吗? 雅阁:2025款锐·T动系列上市,智能化配置升级,值得购买吗? 17.88万元起售,新增2.0L油电混动,2024款丰田亚洲龙怎么样? 宝马S1000RR、S1000R新款上市,M系列同步更新,马力更大了 谷歌:Gemini API用量6个月飙升14倍,明年将升级AI助手 国补最高省2000元!双十一新一波优惠来了,哪些笔记本可闭眼冲? 上汽荣威震撼发布世界冠军版D7 DMH,璀璨官图抢先曝光! 小鹏分体式飞行汽车即将全球公开首飞,年底启动预售 热点城市聚焦:新政满月!上海二手房成交22000套,新房创新高! 一加13更多配置曝光,毫不妥协,真旗舰! 荣耀发布Magic7系列手机,还要重返互联网手机赛道 五菱星光S配置曝光,比亚迪元PLUS应该不是对手 哈弗二代大狗PHEV 省心省力,轻松自驾游 2025款奔驰E级实车到店,增配360度全景影像,有望近期上市 解读一汽-大众迈腾:配2.0T动力+三联屏布局!适合家用的B级车! 丰田亚洲龙:家用商用“结合体”,2.5L混动+长轴距,降至19.68万