随着人工智能技术的飞速发展,AI 应用在各个领域不断涌现。在社交媒体上,利用 AI 进行不端操作的现象也日益严重,抖音上的虚假形象和内容便是一个典型例子。
以最近抖音上出现的大量靠人工智能“带货”的短视频为例,这些视频的封面展示的“美女”并非博主本人,而是批量生成的 AI 形象。对于辨别能力较差的人来说,很容易被吸引进去,从而导致带货效果不俗。这些虚假的“带货”短视频不仅欺骗了消费者,也扭曲了市场竞争的公平性,给正规博主带来了不小的竞争压力。更重要的是,这些带货产品的质量和安全性无法得到保障,一旦出事后果不堪设想。
虚假的 AI 形象背后还可能隐藏着更大的隐患。一些不法分子可能会利用 AI 技术进行诈骗、传播虚假信息等违法行为,给社会治安和公共安全带来威胁。
监管部门应加强对 AI 技术应用的监管,制定相关法规和规范,杜绝利用人工智能进行不当操作的行为。抖音官方已经对许多违规账号进行了处理,但 AI 技术的发展仍给网络环境带来挑战。为了维护网络环境的清朗,还需加大对涉嫌使用 AI 生成的账号进行标注或封禁的力度,保护用户的利益。