发布信息

Meta考虑部署AI生成虚拟账号引发用户抵触,紧急撤下Facebook和Instagram上的AI个人资料

作者:软荐小编      2025-01-06 10:02:29     129

近日,meta 生成式 AI 产品副总裁 Connor Hayes 向英国《金融时报》透露,meta 正在考虑在可以与用户自然交互的平台上部署 AI 生成的虚拟账户。

但普通用户显然对人工智能角色“混入”自己的社交圈极为抵触。

据 Engadget 报道,面对铺天盖地的质疑声,meta 已紧急从 Facebook 和 Instagram 平台上删除了大量人工智能生成的虚拟个人资料。该公司随后正式确认了这一决定。

看来,社交平台还需要努力打破这面“次元墙”。

罗伯特受害者联盟可能会迎来一名新成员:Facebook 用户。

meta 的生成式 AI 产品副总裁 Connor Hayes 近日向英国《金融时报》透露,meta 正在开发一系列生成式产品,其中包括一款可以帮助普通用户在 Instagram 和 Facebook 上创建 AI 角色的工具。

他们将拥有自己的个人资料、头像和要分享的内容。 “我们预计,随着时间的推移,这些人工智能将保留在我们的平台上,就像真实账户一样,”康纳·海耶斯说。

人工智能生成的社交媒体帐户并不是什么新鲜事。一般来说有两种:一种是在真实的社交平台上做机器人,比如微博小罗伯特。

罗伯特刚出来时也引起了一些争议,但现在在微博上活跃起来,时不时贡献一些抽象的事迹。

2016社交媒体用户数量__社交媒体用户行为的研究内容

照片来源:罗伯特受害者联盟

2016社交媒体用户数量__社交媒体用户行为的研究内容

社交媒体用户行为的研究内容__2016社交媒体用户数量

第二类是更具实验性的AI社交平台,比如我们之前介绍过的Dddit和SocialAI,或者像Stanford Town这样的一些用来观察AI智能体的空间。这种空间的特点是只有AI,只有Chatbot,没有真人。

_社交媒体用户行为的研究内容_2016社交媒体用户数量

SocialAI完全由AI机器人组成

Facebook是一个真正的社交媒体平台,成立已有20年,每月活跃用户达30亿。 “让AI真正存在于我们的平台上”将让Facebook同时拥有真人账户和模拟账户,创造出一种混合状态。

meta对AI的决心非常坚定。自主研发的开源大型模型Llama已进入第四代。 Llama 3.2、Llama 3.3 70B等版本在多项行业基准测试中表现良好。基于Llama的meta AI助手月活跃用户已接近6亿。

扎克伯格一直希望以人工智能创建工具为基础。 2023年的meta Connect上,发布了一系列聊天机器人,共有28个角色,包括史努比等卡通人物和汤姆·布雷迪等名人。

当时,这些角色在meta AI中仅用作聊天助手,功能比较粗糙,仅生成文本和一些表情。是一款简单的初级聊天机器人产品。

不过,meta当时的期望也是进军社交媒体平台,与真实用户互动,增加平台的活跃度和用户的停留时长。

新一代AI用户生成功能尚未实际推出,计划明年7月在美国推出。据副总统称,现在已有数十万个字符,但他们的Facebook帐户仍然是私人的——这足以引起网民的反感。

_2016社交媒体用户数量_社交媒体用户行为的研究内容

2016社交媒体用户数量_社交媒体用户行为的研究内容_

_2016社交媒体用户数量_社交媒体用户行为的研究内容

2016社交媒体用户数量__社交媒体用户行为的研究内容

网友的担忧不无道理。 Facebook 的用户群确实趋于老龄化。根据皮尤研究中心 2023 年的一项调查,只有约三分之一的美国青少年表示他们使用 Facebook,比 2014 年和 2015 年的调查大幅下降。

Snap 和 Instagram 前高管 Meghana Dhar 曾表示,这些 AI 角色不一定会让年轻用户喜欢他们,但年轻用户的适应能力肯定会更强。他们越年轻,适应能力就越强。总之,只要能够延长用户的停留时间,这对于广告业务来说就是一个有价值的策略。

meta或许不愿意面对,但当他们当前的用户主要是中年甚至老年人时,这群人对生成内容的判断力和适应能力相对较弱,这使得他们很容易成为假新闻和欺诈的受害者。

特别是考虑到 meta 几乎对生成内容持开放态度。 Facebook的推荐算法已经开始向生成内容倾斜。美国一位数据科学家用自己没有登录的Facebook账户尝试了30分钟,出现的内容几乎全是AI味道浓厚的图片。

_社交媒体用户行为的研究内容_2016社交媒体用户数量

只有不到5%的内容与他过去浏览过的乐器有关。另外12.7%是广告。其余的主要是发布任何图片和人工智能生成的图片的营销帐户。此外,Facebook 拥有自己的内容管理系统,并定义了垃圾邮件的构成。

_2016社交媒体用户数量_社交媒体用户行为的研究内容

既然如此,meta 投入平台的 AI 以及它们生成的内容显然是“试图误导用户以增加互动”。这是否算作“欺骗性”并“以令人讨厌的方式”分享内容?甘蔗两头都不甜。让人工智能生成的虚拟用户强行撑起社区活动,这必然会将社交媒体从一个分享生活和观点的平台转变为一个为了互动而互动的场所。

相关内容 查看全部