amini 文章 进入amini技术社区

如何防止“有毒”的AI模型释放现实世界的混乱

• 对越来越多数据无情、贪婪的胃口可能是人工智能的致命缺陷;或者至少是“毒药”渗入的最快方式。网络攻击者以虚假或误导性信息的形式将小剂量的“有毒数据”偷偷带入至关重要的 AI 训练集中。任务：破坏曾经可靠的模型，使它们朝着完全不同的方向倾斜。我们今天遇到的大多数 AI 系统——从 ChatGPT 到 Netflix 的个性化推荐——都足够“智能”，因为它们接受了大量的文本、图像、语音和其他数据的训练，因此只能完成如此令人印象深刻的壮举。如果这个丰富的宝库被污染，模型的行为就会变得不稳定。现实世界的影响远远超出
• 关键字： AI模型  Amini  区块链