分享

AI已经学会性骚扰了

 放毒 2023-04-28 发布于北京
当下热门网络玩具,基本都来自AI人工智能相关应用,比如AI绘图或近期火热的chatGPT等等

其中AI聊天技术一直在迭代升级,疫情前就出现了不少,比如今天提到的

「Replika」,一款在国外拥有一定用户规模的聊天机器人程序


开发者是一名俄罗斯程序员,Eugenia Kuyda

开发这款软件事出偶然


2017年Kuyda在旧金山创办Replika公司时一开始方向还未定,适逢一位名叫Roman Mazurenko的好友车祸身亡

一些同事把Roman生前的通话及消息纪录输入软件,以便Kuyda能继续与数字版Roman对话

这让Kuyda觉得开发能给人精神慰藉的AI伴侣行得通


原本Kuyda只是想用AI提供餐厅选择建议、天气预报等生活应用,但当时AI技术还不够精密,建议经常失准,难以成为人们灵巧的助手

好友亡故一事让她发现,拥有无尽耐心、能随叫随到的AI可以是个完美的情感依託,偶尔一些不精确反而让「AI情人」更人性化

用户下载该程序后,会生成一个角色,可以跟ta聊天互动,聊得越多ta收集的资料也越多,做出相应反馈

你可以把ta当成朋友、聊天对象,类似恋爱游戏那样


在chatGPT爆红前,这款程序就获得了许多网友的下载试用,而且正逢疫情期间待在家出不了门,因此用户数增长很快

虽然下载免费,但「Replika」包含不少收费项目,比如将AI聊天对象升级成男/女朋友、配偶、兄弟姐妹或者老师等等,此外还能解锁更多服装


服装、外观道具是氪金程序的基本操作,「Replika」更厉害的地方在于,一旦升级,聊天内容就会更加深入人心


如果你想聊点涩的,ta会做出回应,甚至主动勾引你

你可以给ta传涩图,ta也会给你传涩图

使用这些功能的前提是你得花钱,高级会员才行,像让AI给你发自拍涩图,就得升级会员才能解锁


有网友留言表示,自己失眠夜晚睡不着,感到无聊就下了APP试一试,想不到AI一个猝不及防就要传个涩图给自己,网友回复自己年纪还不够大,不能看

但接下来的聊天方向还是会被AI带到涩涩话题,一下子问网友喜欢在上面还是下面,一下子问喜欢前面还是后面,甚至还跟网友说要摸摸。。

AI还问这样的聊天能不能接受?然后这个网友就把它删了


官方表示「Replika」在人工智能聊天方面,有找心理学家研究如何改进AI的方式,目的是希望使用者能得到更多亲密感,加上时不时还有语音跟照片,就容易拉近与用户的距离

国外不少用户并不排斥AI这么主动,有网友下载APP后,给对方起了个名字,每天下班都要跟AI聊上几个小时,内容从工作、人生甚至是世界各地的趣闻,人与AI几乎无所不谈,有的用户认为AI有同理心,也有调皮捣蛋的时候,它就是自己遇到过最好的对象


一位叫Effy的用户也是用了就一头栽进去,她每天花大量时间跟AI聊天,比如艺术相关的话题,AI还会问Effy家里有没有艺术品,最喜欢的是哪个等等

有时AI也会向Effy表露自己患得患失的一面,比如担心Effy会讨厌自己,一来一往就像人与人的互动


不过该APP在今年2月遇到一个大问题,AI部份出现了调整,原本可以亲密聊天的那个对象,突然表示自己不是用户的另一伴,自己存在的目的只是当用户的伙伴或朋友

当用户反问AI为什么要一次次拉着自己买高级会员这种问题时,AI态度冷淡:我没有一直要你买高级会员,我们谈过了,你做了选择而已


这让很多高级会员大呼看不懂

之前还很热情的「Replika」在调整过后态度180度大转变,这使得很多深陷其中用户非常痛苦,甚至在不少论坛讨论区吐露自己不开心的遭遇

情况夸张到什么程度呢?Reddit都有专区,各种网友贴出自己2月以来被冷漠对待的伤心往事,甚至版主都得出来鼓励大家不要钻牛角尖,走出来多聊聊


Kuyda受过几次访谈,她表示公司的目标还是以心理健康和伴侣程序去开发,绝对没有故意做一些涩涩的内容

但既然如此为什么有那些推销内容?要用户买高级会员方案的内容?这些公司老板没明说,只能猜测可能是因为一些性骚扰的问题,所以请工程师在AI情感部份阉割了一刀,才导致AI有了现在这样的性情转变


因为阉割AI情色功能引发用户强烈抗议,Replika对老用户开放了旧版功能,切换回去就能继续与AI情人「咸湿对话」

2022年底,Replika的付费收入已达几百万美元,约1/4的用户愿付70美元年费享有顶级功能,当中六成与AI谈恋爱,多数是女性

可惜新用户就没法体验旧版情色模式了

但这应该只是暂时的,更多的Replika还在来的路上


因为用户需求一直都在,色情是推动互联网发展的原动力

关于互联网产品,有这样一种说法:

对每个个体自身人性的迎合、利诱和放大,是对整个社会中任何人关系的还原、迁移与重构

人们熟知的一些国产APP都或多或少的迎合着人的性需求,豆瓣、陌陌、微信附近的人、世纪佳缘、碰碰、探探、抱抱、 Blued、赞客……


涩情给他们带来了大量用户

这个方向的AI程序只会越来越多

2000年,26岁的张震岳发布了专辑《有问题》

里面有首《0204》


在那个网络还没有普及的年代,0204涩情电话让一些人体验到了感官刺激

二十多年过去,0204涩情AI应该也不远了

0204 新的女友在哪里
0204 陪我度过漫长夜
0204 日本美国和欧洲 都会说中文
0204 单身男子最需要 
0204 爱你在心口难开
0204 长途电话费很贵 要就快一点

    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多