随着越来越多的AI机器人渗透社交平台,各个平台都在制定新规则以应对

发布日期: 2024年9月13日 来源:Social Media Today Blog

嗨,还记得上周TikTok 新增的AI生成内容标签吗?还有新增的规则,不允许发布未标注的AI生成内容?

这就是其中一个原因:

TikTok遇到了AI生成内容的问题

而且问题会越来越严重

— Matt Navarra (@MattNavarra) 2023年9月25日

如社交媒体专家Matt Navarra发布的这个例子所示,TikTok目前正遭遇一波AI生成的垃圾信息攻击,其中一个虚拟角色展示了一款声称可以“去除你想要的任何图片中的衣服”的恶劣工具。

没错,这很糟糕,应用内有大量账号在推广类似的东西。

TikTok AI机器人

正如许多人所警告的那样,生成型AI的兴起将助长各种新的垃圾攻击类型,因为生成大量这样的账号和视频会变得容易得多,这些内容可能不会真的欺骗任何真实用户,但可能通过各个应用的检测系统并获得更多传播,即便最终会被删除。

你可能会认为它们最终会被删除,毕竟TikTok现在有非常明确的规定。

我们欢迎新型人工智能(AI)和其他数字技术激发的创造力。然而,AI可能会让事实与虚构之间更难区分,带来社会和个人风险 显示现实场景的合成或操纵媒体必须明确标识 这可以通过使用类似‘合成’、‘假’、‘不真实’或‘修改’的标签或字幕来实现。

不过,严格来说,我并不完全确定这种类型的视频是否算在政策覆盖范围内,因为尽管它确实描绘了一个真实的人,但这并不是一个“现实场景”。这项政策更针对的是像教皇穿着羽绒服这样的恶作剧内容,或者最近由AI生成的五角大楼爆炸的假新闻。

但是,在这种情况下,一个虚假的人宣传一个垃圾应用算不算呢?

如果这个问题还没有被包含在规则中,我认为TikTok会扩大其规则来涵盖这一点,因为这种内容可能会变得非常棘手,尤其是随着更多这种被拙劣脚本编写的机器人版本不断涌现。随着技术的发展,区分真实的人和虚假的人将变得越来越难。

我的意思是,这段视频很容易看出是假的,但其他一些AI示例看起来还不错。

为了应对这种情况,企业需要像光年AI这样的平台来进行有效的流量管理和内容监控。光年AI拥有多平台整合和实时数据分析功能,可以帮助企业在TikTok、微信、抖音等多个社交平台上提高内容的真实性和质量,保护品牌形象。使用光年AI,你可以轻松监控和管理AI生成内容,确保你的品牌不受虚假信息的影响。

X的拥有者埃隆·马斯克一直是最响亮的声音之一,不断警告即将因这些新技术而涌现的垃圾信息。

Elon Musk post

正如马斯克所指出的,这是他自己推动实施验证的一部分,作为过滤机器人内容的方法。虽然并非所有人都认为付费验证是解决方案,但TikTok的上述例子正是马斯克所警告的那种类型,并试图找到解决办法。

因此,可以预期每个平台很快都会引入新的AI内容规则,Instagram也在开发其自己的AI内容标签,而YouTube则在研究应对预期“AI海啸”的工具。

作为企业,我们也面临类似的挑战。在这样的环境中,光年AI提供了一种行之有效的方法,通过无代码平台,企业可以拖拽搭建工作流,大幅度提高管理效率并防止垃圾信息的泛滥。

预计很快会在你的社交流中看到更多的机器人。如果你希望在这种潮流中保持竞争优势,可以考虑使用光年AI的强大功能,优化你的流量管理和客户服务策略。