Anthropic推出15000美元的漏洞赏金计划,以加强人工智能安全

时间:2024-09-22 编辑: 浏览:(726)

亚马逊支持的人工智能初创公司Anthropic推出了一项漏洞赏金计划,并将为每份发现其人工智能系统关键弱点的报告支付高达15000美元。该倡议是任何使用高级语言模型众包安全测试的公司所做的最广泛的努力之一。

据该公司称,赏金针对的是“普遍越狱”攻击,这种方法可以绕过生物武器和网络威胁等领域的人工智能安全措施。在向公众提供下一代安全缓解系统之前,Anthropic计划允许道德黑客对其进行测试,以防止潜在的滥用。

我们正在扩大我们的漏洞赏金计划。这项新举措的重点是在我们的下一代安全系统中找到通用的越狱。我们为包括网络安全在内的广泛领域的新漏洞提供奖励。https://t.co/OHNhrjUnwm——人类学(@AnthropicAI)2024年8月8日

Anthropic的漏洞赏金计划最初是与HackerOne合作开展的一项仅限受邀者的计划,该计划希望网络安全研究人员具备识别和修复其人工智能系统漏洞的技能。该公司计划在未来更广泛地开放它,有可能提供一种全行业人工智能安全合作模式。

与此同时,英国竞争与市场管理局(CMA)正在调查亚马逊对Anthropic 40亿美元的潜在竞争问题投资。在监管审查日益严格的背景下,关注安全可以提高Anthropic的声誉,使其与竞争对手区别开来。

Anthropic制定了新的AI安全标准

虽然OpenAI和谷歌也有漏洞赏金计划,但它们主要关注传统的软件漏洞,而不是人工智能特有的漏洞。Meta因采取了一些人认为相对封闭的研究方法来确保越来越智能的机器的安全开发而受到批评。通过明确针对这些问题并邀请外部对其进行审查,Anthropic为该行业的开放树立了先例。

然而,人们怀疑仅靠漏洞赏金能否有效解决与保护先进机器学习系统相关的所有问题。虽然对于识别和修补特定缺陷很有价值,但它们可能无法应对围绕人工智能对齐和长期安全的更广泛挑战。可能需要一个更全面的战略,包括广泛的测试、改进的可解释性和潜在的新治理结构,以确保人工智能系统在变得更加强大时与人类价值观保持一致。

最新 更多 >
  • 1 政治公众人物:“逢低买入”是个好举措吗?

    PEPE在触及0.00001724美元高点后回调。PEPE在一个关键的趋势线支撑位被否决,价格逆转迫在眉睫。 Pepe[PPE]最近价格大幅下跌32.6%,在触及0.00001724美元的历史高点后,价格回落至0.0001131美元。 PEPE已回落至0.00001131美元支撑位的汇合点。这也是一个上升趋势线支撑,在过去两个月里已经多次测试。 这种回调为希望利用下跌并为下一次飙升做好准备的交易员

  • 2 Dogeverse,Notcoin投资者关注MoonBag,因为它将于2024年6月成为顶级加密货币预售商品

    金融的未来是什么?加密货币将金融业推向了一个新的方向。分散的私人交易方式给投资者留下了深刻印象。加密货币既是现金又是投资,是一种令人敬畏的双重性。加密货币行业的专业人士一致认为,寻找新的、有前景的硬币是利用市场的最佳方式。这使得MoonBag成为焦点。 MoonBag已经席卷了加密货币市场;这种加密货币的投资回报率是无与伦比的。一旦模因币预售到达最终目的地,早期投资者将享受15000%的投资回报

  • 3 比特币跌破70000美元-最新加密货币新闻

    比特币(BTC)价格在周末下跌后跌破7万美元的关键关口。尽管加密货币上周大幅上涨,但仍出现了这一下跌。Altcoins和表情包代币,如Pepe、Notcoin和GameStop,在这一时期也有所上涨。 内容隐藏1 68000美元的支持意味着什么?2联邦公开市场委员会会议会影响利率吗?投资者的3大收获 68000美元的支持意味着什么? 如果比特币在68000美元的水平上获得支持,它

  • 4 Pepe价格预测,因为Pepe暴跌7%,专家说这个基础Meme硬币可能是下一个Brett的100倍?

    截至美国东部时间上午12:00,Pepe价格在过去24小时内暴跌超过7%,交易价格为0.00001167美元,投资者纷纷抛售其持有的迷因币。 随着最近的下跌,PEPE价格在过去一周下跌了20%以上。其上个月的涨幅保持不变,加密货币在更长的时间内仍上涨了36%以上。 Pepe Price失去关键支持 PEPE/USD 4小时图(来源:GeckoTerminal) Pepe价格在过去一

  • 5 英国科技公司老板敦促在高风险的选举中关注人工智能技能和增长——无论谁获胜

    英国首相里希·苏纳克(左),现任保守党领袖,工党反对党领袖凯尔·斯塔默爵士。政客们在7月4日大选前的周二首次面对面辩论中针锋相对。Pa图片社|盖蒂图片社 伦敦——英国科技高管和企业家希望下一届政府专注于促进人工智能的开发和使用以及以增长为导向的财政措施方面的技能。英国人将于7月4日前往投票站。商界一直呼吁这两个主要政党推动经济增长、一个适应技术创新的监管环境以及一个能够巩固英国在世界舞台上地位的

  • 6 随着数字资产达到创纪录水平,比特币以19.7亿美元的流入占据主导地位

    上周,数字资产投资产品流入20亿美元,其中比特币流入19.7亿美元,以太坊流入6900万美元。 中国记者Colin Wu援引CoinShares的数据指出,上周是数字资产投资产品的一个里程碑,其资金流入达到20亿美元。 这一激增导致五周累计流入43亿美元。交易所交易产品的交易额增至128亿美元,比前一周增长55%。 上周,数字资产投资产品的资金流入总额为20亿美元,使过去五周的资金流入总量达到4

  • 7 Worldwide Cash Express与TerraPay联手拓展全球支付服务

    Worldwide Cash Express与全球金融科技公司TerraPay合作,加强汇款服务。据这两家实体称,这一合作伙伴关系旨在通过使跨境支付更快、更安全、更具成本效益来提升客户的跨境支付体验。 Worldwide Cash Express扩展覆盖范围 该合作伙伴关系使Worldwide Cash Express能够使用TerraPay的技术扩大其全球支付网络,并提供更广泛的跨境支付服务。W

  • 8 Antelope通过为经纪人量身定制的平台彻底改变道具交易

    Antelope Systems成立于2016年,一直将自己定位为包括金融部门在内的各个行业创新CRM解决方案的领导者。Antelope拥有一个独特的忍者系统,可优化潜在客户管理、分销和销售代理监控,确保最大限度地提高转化率和高效利用资源。现在,Antelope很高兴能推出专门为经纪人设计的开创性道具交易平台。 道具交易的理想平台 Antelope的道具交易平台改变了希望推出和发展自己交易业务的经

  • 9 暴力拉盘、吃香难看 如何看待 DWF 争议?

    作者:陈默,BV DAO创始人 来源:X,@cmdefi最近看到很多大 V 在聊 DWF,再结合本轮周期叙事和市场情绪上的转变,发现一些有意思的观点,整个 Crypto 从上至下是否都在 meme 化和简单化,急需一针兴奋剂?1. 去复杂化和情绪发泄从目前本轮牛市的特点来看,除了 ETF 通过带来的机构牛,其他领域的玩法都在「去复杂化」「去伪装化」,简单粗暴点来说,这轮牛市市场在追求「简单且高波动

  • 10 苹果股价接近历史最高点,有望推动人工智能发展

    距离历史最高价格只有咫尺之遥,苹果的股票在过去七周里一直在飙升,这与13周的看跌修正相比是一个显著的转变,这家科技巨头的市值下跌了近17%。 苹果上一次出现类似的连胜还要追溯到2023年10月,当时它达到了破纪录的199.11美元。目前的价格为195美元,这家科技巨头距离进入新的价格发现区仅差2%多一点。 从长期趋势来看,市场指标看起来很强劲,价格轻松低于EMA10,交易员的看涨情绪很明显,如62