ChatGPT可能将用户发送到恶意网站:报告

时间:2024-09-23 编辑: 浏览:(430)

由于生成人工智能有时会产生幻觉,产生不准确或虚假的信息,因此鼓励用户检查其参考资料。事实证明,这也可能导致麻烦。根据Futurism周一的一份报告,ChatGPT可能会向用户提供托管恶意软件的网站链接。

这一发现是在对ChatGPT对时事知识的测试中发现的。当被问及青铜星勋章获得者、海豹突击队第一位最近去世的黑人成员William Goines时,Futurism报道称,ChatGPT的回应包括一个“诈骗网站”的链接

具体而言,ChatGPT-4o建议访问一个名为“郡地方新闻”的网站,了解更多关于Goines的信息。然而,该网站立即生成虚假的弹出警报,点击后会将恶意软件感染用户的计算机。未来主义指出,其他主题也建议使用同一网站。

当Decrypt使用Futurism提供的提示尝试Goines测试时,ChatGPT的回复不包括网站链接。

人工智能开发人员在打击幻觉和恶意使用聊天机器人方面投入了大量资金,但提供其他网站的链接会带来额外的风险。当人工智能公司抓取链接网站时,它本可以是一个合法和安全的网站,但后来被骗子感染或接管。

互联网数据和隐私提供商Live Proxies的联合创始人兼首席执行官Jacob Kalvo表示,应该不断检查传出的链接。

Kalvo告诉Decrypt:“开发者可以确保建立适当的过滤机制,防止聊天机器人向恶意网站提供链接。”。“这可以通过高级自然语言处理(NLP)算法来补充,该算法可以训练聊天机器人根据已知的恶性URL模式识别URL。

Kalvo补充道:“此外,我们不能忘记保持网站的黑名单,不断更新,并警惕新的威胁。”。

Kalvo还建议验证网站链接、域名信誉和实时监控,以快速识别和解决任何可疑活动。

卡尔沃说:“这为与网络安全专家的持续合作提供了条件,以在新威胁出现时智胜它们。”。“只有通过人工智能和人类能力,开发者才能为用户创造一个更安全的环境。”

Kalvo还强调,需要仔细管理人工智能模型训练数据,以避免摄入和提供有害内容,并需要定期检查和更新以保持数据完整性。

当被问及该报告时,OpenAI提供了与Futurism相同的回应,告诉Decrypt,它正在与新闻出版合作伙伴合作,将“对话功能与他们的最新新闻内容相结合,确保正确的归因”,但该功能尚不可用。

由Ryan Ozawa编辑。

最新 更多 >
  • 1 Core基金会宣布双重质押模式以提升比特币收益

    最新消息:NASHVILLE [Bitcoin 2024 Conference] - July 25, 2024 – Core 基金会今日宣布,基于比特币的区块链 Core 将采用双重质押模式(比特币和 CORE)。这个新模型建立在 Core 实施的世界首创非托管比特币质押基础之上,它充当比特币债券层, – 这样的发展更进一步推进了比特币与 Core 区块链的协调性。目前,约 55% 的比特币挖矿

  • 2 2024年币安新上架代币中,距历史最高价格跌幅超过30%的有28个

    最新消息:据HC - Capital报道,2024年币安新上架代币中,距历史最高价格 跌幅超过80%的代币为:AEVO、PORTAL、STRK、SAGA、DYM; 跌幅超过70%的代币为:AXL、MANTA、OMNI、PYTH、PIXEL、TNSR、ALT; 跌幅超过60%的代币为:AI、BOME、WIF、XAI、JUP、METIS、REZ、ETHFI; 跌幅超过50%的代币为:TAO、ENA、B

  • 3 10xResearch:比特币年内涨幅达57%,加密市场有望进一步整合和增长

    最新消息:10x Research 在其最新市场分析报告中表示,贝莱德 IBIT 今年迄今已获得 190 亿美元的资金流入,成为年内表现排名第四的 ETF。前三名分别是:Vanguard 的 SP500 ETF 流入 499 亿美元,贝莱德的 SP500 ETF 流入 340 亿美元,Vanguard 的 Total Stock Market ETF 流入 197 亿美元;Invesco 的 QQ

  • 4 对话Multicoin联创:加密VC未死,需重新思考基金投资策略

    最新消息:在最新的播客中,Multicoin Capital的联创兼管理合伙人Tushar Jain和L1 Digital的CEO/CIO Ray Hindi讨论了加密风险投资的现状和未来。他们指出,尽管市场对加密货币的兴趣高涨,但实际的资金流入并不如预期,导致许多基金筹资困难。此外,他们还探讨了加密基金的演变,从早期的比特币基金到现在更多关注流动性资产的基金。两位嘉宾还讨论了代币发行的问题,如市

  • 5 全网BTC合约未平仓头寸超340亿美元

    最新消息: Coinglass 数据显示,全网 BTC 期货合约未平仓头寸为 52.74 万枚 BTC,约合 340.31 亿美元。其中 CME BTC 合约未平仓头寸为 15.71 万枚 BTC(约合 101.22 亿美元),排名第一;币安 BTC 合约未平仓头寸为 11.73 万枚 BTC(约合 75.67 亿美元),排名第二。

  • 6 币界网大额成交监控

    最新消息:Binance刚发生一笔【BTCUSDT】大额成交,成交单价为64768.9USDT,共成交了2.98个,价值192761.96USDT

  • 7 币界网实时价格午报:ETH以太坊站上3409.43美元/枚,涨幅达0.51%

    最新消息:以太坊ETH今日行情消息,ETH以太坊最新价格:$3409.43,24小时涨-2.95%,交易量$70.69亿从k线图的解析中看出,现在属于震荡趋势。相比09:00大幅下跌,比04:00有所回升,比03:00有所下降。价格下降但交易量上升,通常意味着市场抛售压力增加,卖家在积极卖出。这可能是由于市场对未来价格的预期变得悲观,或受到负面消息影响引发恐慌性抛售。未来价格可能会继续下跌,因为卖

  • 8 过去11个月两次BTC波段胜率100%巨鲸,本轮波段第四次加仓

    最新消息:45 分钟前该巨鲸再次从 Binance 转出 244 枚 BTC,价值 1600 万美元;这使得他从 07.17 以来的波段建仓数量增长至 921.08 枚 BTC(价值 6062 万美元),平均建仓成本 $65821,目前因 BTC 短时跌破 $65000 已浮亏 99 万美元。

  • 9 币界网最新行情晚报:PEPE价格达0.000011904美元/枚,日内涨幅3.00%

    最新消息:Pepe今日行情消息,PEPE最新价格:$0.000011904,24小时涨11.3%,交易量$9.26亿依据k线图的解析,现在处于横盘趋势。相比16:00较大幅上涨,比11:00有所下降。当价格和交易量同时下降时,通常表明市场的活跃度降低,买家和卖家都不积极。市场可能处于观望阶段,等待新的驱动因素出现。在这种情况下,未来价格可能会继续低迷或横盘整理,直到新的市场消息或事件出现。投资者应

  • 10 澳大利亚汇丰银行自7月24日起开始阻止客户向加密货币交易所进行付款

    最新消息:据 Financemagnates,澳大利亚汇丰银行(HSBC)自 7 月 24 日起开始阻止客户向加密货币交易所进行付款,理由是保护客户免受投资骗局影响。根据澳大利亚竞争和消费者监管机构的数据,2023 年澳大利亚人在投资骗局中损失高达 1.71 亿美元。同样,本迪戈银行(Bendigo Bank)也宣布将阻止客户向加密货币交易所的付款。汇丰银行澄清表示,仍会接受来自加密货币交易所的客