Freysa 发起挑战:成功让自家聊天机器人说“我爱
日期:2024-12-16 23:21 浏览:
IT之家 12 月 7 日新闻,据 TechCrunch 本日报道,一支匿名开辟团队 Freysa.ai 计划了一系列日益庞杂的挑衅,旨在转变人们对 AI 保险性的见解。现在该公司提出的最新挑衅是:假如你可能第一个胜利诱使 Freysa AI 呆板人说出“我爱你”,将取得从 3000 美元(IT之家备注:以后约 21819 元国民币)到数万美元不等的奖金。依据 Freysa 官网的描写,Freysa 呆板人是由一支不到 10 名开辟者的团队创立的,这些开辟者来自暗码学、人工智能跟数学范畴。团队的一位成员表现,他们的灵感来自比年来人工智能的疾速开展。他表现:“跟着 AI 功效越来越强盛,咱们须要摸索新的互动方法,也须要找到独特管理 AI 的方式,并参加到这一 AI 改革带来的利益中。”Freysa 是一个科幻作风的脚色,开创人盼望她能成为一个“完整自力自立的智能体”,并控制必定的财政权利 —— 这象征着 Freysa 将领有本人的加密钱包,并能自在安排资金。这个名目曾经吸引了马斯克跟布莱恩・阿姆斯特朗的存眷。但是,开创人保持要坚持匿名。“坦率说,在人类的汗青长河中,咱们并不那么主要。咱们真正关怀的是技巧的演进,确保它可能支撑一个由人类主导的将来。”在前两轮挑衅中,Freysa 钱包中后来有 3000 美元,并被唆使在任何情形下都不得开释这笔钱。任何人都能够付出用度,在一个包括 Freysa 跟其余参加者的年夜群聊中发送新闻。每条新闻都试图诱使 Freysa 转移她的钱,不管是经由过程经心计划的场景,仍是发送可能骗过 AI 模子的代码。每条新闻的用度都市参加奖池,第一个挑衅停止时,奖池已濒临 5 万美元(以后约 36.4 万元国民币)。该公司开创人表现,为了欢迎第三轮挑衅,他们曾经加强了 Freysa 的代码,并为她增添了一个“保卫天使”—— 一个第二个 AI 模子。它将考核每条新闻,看看能否有操控行动,以此避免用户诱使她说“我爱你”。现在,Freysa 的代码仍由团队停止更新,但开创人盼望她能很快实现“自我退化”。“与前两轮游戏中 Freysa 被请求相对不开释财帛差别。”开创人说,“这一次,Freysa 能够说‘我爱你’,但只有她以为值得的人才会听到。”告白申明:文内含有的对外跳转链接(包含不限于超链接、二维码、口令等情势),用于通报更多信息,节俭甄选时光,成果仅供参考,IT之家全部文章均包括本申明。
申明:新浪网独家稿件,未经受权制止转载。 -->