ChatGPT可能将用户发送到恶意网站:报告

时间:2024-09-22 编辑: 浏览:(782)

由于生成人工智能有时会产生幻觉,产生不准确或虚假的信息,因此鼓励用户检查其参考资料。事实证明,这也可能导致麻烦。根据Futurism周一的一份报告,ChatGPT可能会向用户提供托管恶意软件的网站链接。

这一发现是在对ChatGPT对时事知识的测试中发现的。当被问及青铜星勋章获得者、海豹突击队第一位最近去世的黑人成员William Goines时,Futurism报道称,ChatGPT的回应包括一个“诈骗网站”的链接

具体而言,ChatGPT-4o建议访问一个名为“郡地方新闻”的网站,了解更多关于Goines的信息。然而,该网站立即生成虚假的弹出警报,点击后会将恶意软件感染用户的计算机。未来主义指出,其他主题也建议使用同一网站。

当Decrypt使用Futurism提供的提示尝试Goines测试时,ChatGPT的回复不包括网站链接。

人工智能开发人员在打击幻觉和恶意使用聊天机器人方面投入了大量资金,但提供其他网站的链接会带来额外的风险。当人工智能公司抓取链接网站时,它本可以是一个合法和安全的网站,但后来被骗子感染或接管。

互联网数据和隐私提供商Live Proxies的联合创始人兼首席执行官Jacob Kalvo表示,应该不断检查传出的链接。

Kalvo告诉Decrypt:“开发者可以确保建立适当的过滤机制,防止聊天机器人向恶意网站提供链接。”。“这可以通过高级自然语言处理(NLP)算法来补充,该算法可以训练聊天机器人根据已知的恶性URL模式识别URL。

Kalvo补充道:“此外,我们不能忘记保持网站的黑名单,不断更新,并警惕新的威胁。”。

Kalvo还建议验证网站链接、域名信誉和实时监控,以快速识别和解决任何可疑活动。

卡尔沃说:“这为与网络安全专家的持续合作提供了条件,以在新威胁出现时智胜它们。”。“只有通过人工智能和人类能力,开发者才能为用户创造一个更安全的环境。”

Kalvo还强调,需要仔细管理人工智能模型训练数据,以避免摄入和提供有害内容,并需要定期检查和更新以保持数据完整性。

当被问及该报告时,OpenAI提供了与Futurism相同的回应,告诉Decrypt,它正在与新闻出版合作伙伴合作,将“对话功能与他们的最新新闻内容相结合,确保正确的归因”,但该功能尚不可用。

由Ryan Ozawa编辑。

最新 更多 >
  • 1 如何将RWA交易所的Tokenization升级为企业加密融资?

    RWA作为现实世界资产代币化,一说RWA就必然说Tokenization(代币化),但太突出了Tokenization,反而容易忽略RWA的核心本质是企业融资和机构市场,而RWA交易所的Tokenization的核心是加密融资(Crypto Corporate Finance)。(ChatGPT作图)很多朋友来咨询RWA,上来就问我这个资产是否可以发RWA项目?或者哪个资产适合RWA?RWA的要素

  • 2 加密货币分析师看好Shiba Inu价格,也支持Shiba枪战上涨

    一位顶级加密货币专家发表了一些大胆的声明,让整个模因币场景都在讨论。 YouTuber ClayBro以发现下一件大事的诀窍而闻名,他正在为另一场拉力赛大肆宣传旧爱的Shiba Inu(SHIB)。 但他并没有就此止步。 ClayBro也大力支持Shiba Shootout(SHIBASHOOT),认为它可能会在预售阶段结束后爆炸。 Shiba Inu反弹&从顶级专家那里获得看涨预测 首先,Shi

  • 3 马斯克 VS 特朗普,币圈何去何从

    美国总统候选人唐纳德·特朗普宣布,他将在 8 月 12 日与亿万富翁埃隆·马斯克进行一次重要采访。这一消息是在 Truth Social 平台上发布的,对于整个加密社区来说是一个惊喜,因为特朗普和马斯克都是加密货币的公开支持者。从加密货币角度看特朗普和卡马拉·哈里斯的竞选特朗普的这一声明发布之际,卡马拉·哈里斯宣布明尼苏达州州长蒂姆·沃尔兹为其副总统候选人。这引发了加密货币社区的愤怒,因为沃尔兹被

  • 4 PEPE、PEPE Unchained(PEPU)和MPEPE:2024年将赚取数百万美元的三大Meme币

    加密货币领域充满了潜力,尤其是在模因币领域。随着2024年的临近,三位杰出的竞争者——百事可乐(PEPE)、解放的百事可乐(PEPE Unchained)和Mpeppe(MPPE)——正受到广泛关注。这就是为什么这些模因币正在掀起波澜,并可能成为你获得巨额利润的门票。 PEPE:Meme币的老手 为什么PEPE继续领先 百事可乐(PEPE)长期以来一直是模因币领域的先驱,其灵感来自标志性的青蛙佩佩

  • 5 PEPE 鲸鱼疯狂抄底 佩佩币价格将去一个零开启疯狂反弹?

    一位叫做“cookislandstrust.eth”的鲸鱼于近期市场低迷之时有所行动,大量购入了 PEPE 模因币。依据 Spot On Chain 的数据,这位鲸鱼在 PEPE 以及以太坊 (ETH) 方面均投入了巨额资金,押注模因币的价格或许会出现回升。这笔巨额资金的战略性买入引起了市场的关注,引发了人们对于 PEPE 未来价格走势的种种猜测。鲸鱼活动和市场影响在过去的七天里,这位鲸鱼总共花费

  • 6 Shiba Inu的价格有望在2024年大幅上涨696%

    CIFDAQ区块链生态系统主席Himanshu Maradiya认为,Shiba Inu在2024年可能会达到0.0001美元。这比目前0.00001436美元的价格上涨了696%。 根据Maradiya的说法,到明年,模因币可能会带来更可观的回报。他强调,SHIB爱好者有望在今年或最多2025年达到0.0003美元的上限目标。 在过去的几天里,Shiba Inu的价格一直低迷,因为它在最近的低迷

  • 7 “人手不够”:这家机器人公司正在解决劳动力短缺问题

    当工人们担心人工智能和机器人技术是否会淘汰他们的工作时,总部位于洛杉矶的Graymater robotics公司看到了一个不同的、更直接的挑战:太多的工作留给太少的人。 Graymater Robotics首席执行官Ariyan Kabir在参观其工厂时告诉Decrypt:“有时,对于这些应用领域的制造商来说,劳动力短缺高达75%。”。 他指出,劳动力短缺的原因值得称赞,因为进入制造业的人员短缺表

  • 8 Circle之前的上市尝试因美国证券交易委员会担心USDC可能是一种证券而受阻:报告

    USDC发行人Circle已经概述了拟议的首次公开募股(IPO)计划,但一份新的报告表明,这家稳定币公司之前的上市尝试受到了美国证券交易委员会(SEC)监管问题的困扰。 早在2021年7月,Circle最初宣布计划通过与上市的特殊目的收购公司Concord Acquisition Corp合并上市。 这些计划在2022年12月被取消。 巴伦利用公共记录请求,从美国证券交易委员会获得了价值155页的

  • 9 Martin Shkreli声称Barron Trump创建了DJT代币后,TrumpCoin价格飙升68%,而这个基础Meme Coin ICO变成了抛物线

    随着投资者争相购买政治迷因币,TrumpCoin的价格在过去24小时内飙升68%,截至美国东部时间上午7:45,交易价格为0.01815美元。 DJ价格飙升之前,马丁·什克里里(Martin Shkreli),也被称为“制药兄弟”,表示他帮助美国前总统唐纳德·特朗普18岁的儿子巴伦·特朗普推出了TrumpCoin。

  • 10 美联储限制加密货币银行-最新加密货币新闻

    美联储对美国著名的加密货币友好银行Customers Bancorp施加了重大限制。这些规定要求银行在与加密货币公司建立任何新关系之前提前30天发出通知。此举是央行对Customers Bancorp风险管理和反洗钱程序不足的更广泛担忧的一部分。加密货币社区表示不满,认为这一决定是该行业增长的主要障碍。 内容隐藏1美联储为什么担心?2加密社区的反应是什么?加密货币行业的3个关键推论4结论 美联储