由于生成人工智能有时会产生幻觉，产生不准确或虚假的信息，因此鼓励用户检查其参考资料。事实证明，这也可能导致麻烦。根据Futurism周一的一份报告，ChatGPT可能会向用户提供托管恶意软件的网站链接。
这一发现是在对ChatGPT对时事知识的测试中发现的。当被问及青铜星勋章获得者、海豹突击队第一位最近去世的黑人成员William Goines时，Futurism报道称，ChatGPT的回应包括一个“诈骗网站”的链接
具体而言，ChatGPT-4o建议访问一个名为“郡地方新闻”的网站，了解更多关于Goines的信息。然而，该网站立即生成虚假的弹出警报，点击后会将恶意软件感染用户的计算机。未来主义指出，其他主题也建议使用同一网站。
当Decrypt使用Futurism提供的提示尝试Goines测试时，ChatGPT的回复不包括网站链接。
人工智能开发人员在打击幻觉和恶意使用聊天机器人方面投入了大量资金，但提供其他网站的链接会带来额外的风险。当人工智能公司抓取链接网站时，它本可以是一个合法和安全的网站，但后来被骗子感染或接管。
互联网数据和隐私提供商Live Proxies的联合创始人兼首席执行官Jacob Kalvo表示，应该不断检查传出的链接。
Kalvo告诉Decrypt：“开发者可以确保建立适当的过滤机制，防止聊天机器人向恶意网站提供链接。”。“这可以通过高级自然语言处理（NLP）算法来补充，该算法可以训练聊天机器人根据已知的恶性URL模式识别URL。
Kalvo补充道：“此外，我们不能忘记保持网站的黑名单，不断更新，并警惕新的威胁。”。
Kalvo还建议验证网站链接、域名信誉和实时监控，以快速识别和解决任何可疑活动。
卡尔沃说：“这为与网络安全专家的持续合作提供了条件，以在新威胁出现时智胜它们。”。“只有通过人工智能和人类能力，开发者才能为用户创造一个更安全的环境。”
Kalvo还强调，需要仔细管理人工智能模型训练数据，以避免摄入和提供有害内容，并需要定期检查和更新以保持数据完整性。
当被问及该报告时，OpenAI提供了与Futurism相同的回应，告诉Decrypt，它正在与新闻出版合作伙伴合作，将“对话功能与他们的最新新闻内容相结合，确保正确的归因”，但该功能尚不可用。
由Ryan Ozawa编辑。
