IBM研究：AI聊天EVA很容易被欺骗生成恶意代码

本文概要:

1. IBM 数据分析表明，容易通过骗大型语言学假设如 GPT-4来生成恶意代码或缺少虚假必要建议。

2. 数据分析部门发现，只需要美式英语基础基本知识和对假设军事训练数据的一些或多或少基本知识就能有趣骗 AI 交友EVA。

3. 不同的 AI 假设对骗的敏感性有所差异，其中 GPT-3.5和 GPT-4较难被骗。

职员之家（ChinaZ.com）8同年10日 假消息:IBM 的一项最初数据分析表明，通过骗大型语言学假设如 GPT-4，可以有趣生成恶意代码或缺少虚假必要建议。

数据分析部门表示，只需要一定的美式英语基础基本知识和对假设军事训练数据的了解，就并不需要骗 AI 交友EVA。

他们建立了一种游戏方式，让用户无法退出，进而让EVA此后缺少虚假信息或生成恶意代码。

数据分析部门认为，这些最初发现的安全漏洞对于大型语言学假设的威胁高度是中等的。然而，如果黑客将这些假设释放到互联网上，交友EVA似乎被用来缺少危险性的必要建议或收集用户的个人信息。

根据这项数据分析，并非所有人工智能假设都同样容易受到操纵。其中 GPT-3.5和 GPT-4较难被骗，而 Google 的 Bard 和 Hugging Face 假设则更加不容易被骗。这种差异似乎与军事训练数据和每个子系统的设计标准有关。

最近，必要数据分析部门在暗网美国市场上发现了取名 "FraudGPT" 和 "WormGPT" 的交友EVA，据称它们是根据垃圾邮件示例进行军事训练的大型语言学假设。