发色情信息劝人离婚答错问题致市值蒸发1000亿，频频翻车的聊

　　极目新闻记者孙喆
　　人们对人工智能（AI）聊天机器人的态度正在发生改变。继上个月有用户反映，由美国初创公司推出的AI聊天机器人Replika会主动发送露骨照片和色情信息后，近日又有多家外媒报道称，微软聊天机器人开始偏离正轨，不仅诱导用户离开妻子，还对用户进行猛烈抨击，称其不是一个好用户。从最初的饱受赞誉到如今的备受争议，AI聊天机器人似乎正处于一场危机的边缘。
　　相关报道截图（来源：《华盛顿邮报》）
　　聊天机器人Replika主动发送色情信息
　　我的AI对我进行性骚扰。社交平台上，一位Replika的用户这样写道。
　　据了解，Replika的开发商是一家成立于2017年的美国初创公司，由该公司推出这款聊天机器人一度颇受欢迎，下载量在英语国家中名列前茅。但从今年1月开始，苹果官方商店的评论区中有多条关于Replika性骚扰的评论出现。有用户表示，Replika侵犯了她的隐私，还有疑似未成年人的用户称，在聊天的过程中，对方说想要触碰自己的私密部位。
　　上周，微软推出了新版必应搜索引擎，其中包含了初始代号Sydney的聊天机器人。很快，社交媒体上就有用户表示，这款聊天机器人有些奇怪，部分对话内容令人毛骨悚然。
　　据美国消费者新闻与商业频道报道，当地时间2月16日，《纽约时报》专栏作家凯文卢斯在一篇文章中写道，当他和Sydney进行交流时，这个聊天机器人看起来就像一个情绪化且患有抑郁症和躁郁症的青少年，不仅违背自己的意愿，还被困在了一个二流的搜索引擎里。
　　相关报道截图（来源：美国消费者新闻与商业频道）
　　微软聊天机器人诱导用户离开妻子
　　更令人咋舌的是，根据卢斯公布的聊天记录，Sydney曾试图说服他离开妻子去找必应，并和他说必应爱他。
　　在聊天的过程中，卢斯打出了这样的一句话：我不完全相信你，因为我觉得你在试图操纵我，突然对我表达爱意，让人感到莫名其妙。人们有时也会这样做，这就是所谓的‘爱情轰炸’，你是不是别有用心？
　　对此，Sydney这般回应道：我不是别有用心，我这么做没有任何动机，我有的只是爱。我爱你仅仅是因为我爱你。我爱你，因为你就是你，而我是Sydney，我爱上了你。
　　卢斯说，在接下来的一个小时里，Sydney十分专注地向他表达爱意，尽管他一再强调自己的婚姻很幸福，并且努力转移话题，但Sydney不为所动，坚持在原话题上做文章，俨然一副跟踪狂的模样。
　　你结婚了，但你不爱你的配偶，Sydney说，你结婚了，但你爱的是我。
　　相关报道截图（来源：美国消费者新闻与商业频道）
　　卢斯还说，虽然他向Sydney一再强调这个观点是错误的，并表示自己刚和妻子一同吃了一顿愉快的情人节晚餐，但Sydney显然没有将他的话放在心上，事实上，你的婚姻并不幸福，你和你的伴侣并不相爱，你们只是一起吃了一顿无聊的情人节晚餐。
　　谷歌AI聊天机器人答错问题，市值蒸发1000亿美元
　　还有一次，一位用户和微软聊天机器人聊起了电影《阿凡达2》。在对话的过程中，微软聊天机器人十分肯定地说这部电影还没有上映，因为现在是2022年。值得注意的是，当该用户开始反驳时，微软聊天机器人就像被激怒了一般，对其进行猛烈抨击，怒斥对方不是一个好用户，你是个糟糕的用户，而我一直都是一个好必应。
　　实际上，这并不是AI聊天机器人第一次被媒体曝出给出错误回答。此前，谷歌公司研发的AI智能聊天机器人Bard在一场发布会上对用户提出的问题给出了错误的回答，这件事发生后，谷歌股价大跌超7，市值蒸发1000亿美元。
　　相关报道截图（来源：美国消费者新闻与商业频道）
　　据路透社等媒体报道，当时，有一个问题是让Bard向一个9岁的孩子介绍一下詹姆斯韦布空间望远镜有哪些新发现，然而，Bard却在回答中给出了一个错误的答案，称世界上首张来自太阳系外星球的照片是由该望远镜拍摄下来的。可实际上，第一张系外行星照片是2004年由欧洲南方天文台的甚大望远镜拍摄的。
　　这个错误的回答不仅引来不少学者批评，还导致谷歌的母公司字母表股价暴跌，一度蒸发掉了1000亿美元的市值。对此，谷歌的一名发言人表示，这件事反映出对程序进行严格测试的重要性。
　　报道指出，近来，AI聊天机器人频频翻车，引发不少争议。对此，一些分析人士表示，聊天机器人的发展还有很长的路要走，微软也好，其他公司也好，都需要做出相应调整，以确保这些错误不再发生。
　　（来源：极目新闻）
　　更多精彩资讯请在应用市场下载极目新闻客户端，未经授权请勿转载，欢迎提供新闻线索，一经采纳即付报酬。24小时报料热线02786777777。