Anthropic推出15000美元的漏洞赏金计划,以加强人工智能安全

时间:2024-09-20 编辑: 浏览:(837)

亚马逊支持的人工智能初创公司Anthropic推出了一项漏洞赏金计划,并将为每份发现其人工智能系统关键弱点的报告支付高达15000美元。该倡议是任何使用高级语言模型众包安全测试的公司所做的最广泛的努力之一。

据该公司称,赏金针对的是“普遍越狱”攻击,这种方法可以绕过生物武器和网络威胁等领域的人工智能安全措施。在向公众提供下一代安全缓解系统之前,Anthropic计划允许道德黑客对其进行测试,以防止潜在的滥用。

我们正在扩大我们的漏洞赏金计划。这项新举措的重点是在我们的下一代安全系统中找到通用的越狱。我们为包括网络安全在内的广泛领域的新漏洞提供奖励。https://t.co/OHNhrjUnwm——人类学(@AnthropicAI)2024年8月8日

Anthropic的漏洞赏金计划最初是与HackerOne合作开展的一项仅限受邀者的计划,该计划希望网络安全研究人员具备识别和修复其人工智能系统漏洞的技能。该公司计划在未来更广泛地开放它,有可能提供一种全行业人工智能安全合作模式。

与此同时,英国竞争与市场管理局(CMA)正在调查亚马逊对Anthropic 40亿美元的潜在竞争问题投资。在监管审查日益严格的背景下,关注安全可以提高Anthropic的声誉,使其与竞争对手区别开来。

Anthropic制定了新的AI安全标准

虽然OpenAI和谷歌也有漏洞赏金计划,但它们主要关注传统的软件漏洞,而不是人工智能特有的漏洞。Meta因采取了一些人认为相对封闭的研究方法来确保越来越智能的机器的安全开发而受到批评。通过明确针对这些问题并邀请外部对其进行审查,Anthropic为该行业的开放树立了先例。

然而,人们怀疑仅靠漏洞赏金能否有效解决与保护先进机器学习系统相关的所有问题。虽然对于识别和修补特定缺陷很有价值,但它们可能无法应对围绕人工智能对齐和长期安全的更广泛挑战。可能需要一个更全面的战略,包括广泛的测试、改进的可解释性和潜在的新治理结构,以确保人工智能系统在变得更加强大时与人类价值观保持一致。

最新 更多 >
  • 1 比特币先驱Jeff Garzik推出第2层Hemi网络——可与以太坊互操作

    Hemi Labs是比特币先驱Jeff Garzik和VeriBlock联合创始人Maxwell Sanchez的新项目,他们在比特币纳什维尔的第一天宣布推出Hemi Labs及其新项目Hemi Network。该公司表示,Hemi Network的测试网将于周三上线。 根据Hemi Labs的说法,Hemi Network是一个模块化的第2层区块链网络,旨在实现比特币和以太坊之间的卓越扩展性、安

  • 2 随着国内品牌主导市场,苹果不再是中国前五大智能手机供应商之一

    Canalys的一份报告显示,由于来自华为等国内品牌的竞争加剧,苹果在第二季度被挤出了中国前五大智能手机供应商名单。周四发布的报告显示,苹果在中国的市场份额从第一季度的15%和去年同期的16%降至第二季度的14%。根据CNBC的计算,这家iPhone制造商在去年第二季度是第三大智能手机供应商,出货量约为970万部,跌至第六位。Canalys研究分析师Lucas Zhong表示:“这是历史上第一个国

  • 3 卡玛拉·哈里斯的《Brat Summer》?Meme Coin交易员已加入

    周日,副总统卡玛拉·哈里斯(Kamala Harris)获得乔·拜登(Joe Biden)的支持,成为民主党总统候选人后不久,她就获得了流行歌星Charli XCX的文化支持。 不知何故,这也引发了一种死模因币的复苏,它迅速飙升至500万美元的市值。 这位英国艺术家在推特上提到她的最新专辑《brat》时写道:“Kamala是个顽童。”在哈里斯点头之前,这张专辑已经吸引了大批粉丝,激发了无数思考。

  • 4 福特汽车即将公布收益。以下是预期结果

    底特律-福特汽车将在周三市场收盘后公布第二季度收益。这家底特律汽车制造商的业绩预计将相对健康,尽管比2023年第二季度有所下降,但不如其同城竞争对手通用汽车强劲,通用汽车周二公布了收益。根据伦敦证交所编制的平均估计,华尔街的预期如下:每股收益:68美分调整后汽车收入:440.2亿美元。这些结果将标志着收入比去年同期增长3.8%,调整后每股收益下降5.2%。福特去年第二季度的业绩包括424.3亿美元

  • 5 比特币突破关键趋势线,分析师预测牛市突破67000美元

    比特币(BTC)显示出看涨突破的迹象,目标为67000美元,受技术指标和高持币者信心的推动。 在过去的24小时里,这种顶级加密货币的交易价格大多在6.5万美元左右。然而,技术指标现在表明,比特币可能即将出现看涨突破。 分析师阿里·马丁内斯今天在X上的一篇帖子中提请注意这一发展。Martinez强调,比特币已经越过了下降趋势线,这表明比特币正在上升。 在这一观察中,分析师认为比特币可能会走向6700

  • 6 “炒小币的大国”征收20%加密货币利得税?恐将引发大规模抛售?韩国考虑推迟至2028年实施?

    近期,韩国国内掀起了一场关于加密货币税收的热议。韩国政府一直在讨论是否应该推迟实施针对加密货币交易利得的20%税收。在韩国,加密货币投资者每年收益超过250万韩元(约合1800美元)时必须缴纳20%的资本利得税。这一门槛比股票的门槛低得多,股票只有收益超过5000万韩元(约合36000美元)才需要纳税。据悉,这一政策目的是使加密货币投资者与其他投资者承担相同的税收义务。韩国对加密货币收益征税的计划

  • 7 华纳兄弟探索公司指望通过放松管制来解锁媒体交易——如果有胃口的话

    康卡斯特首席执行官布莱恩·罗伯茨本周向华纳兄弟探索公司首席执行官大卫·扎斯拉夫传达了一个不那么微妙的信息:如果你在卖,我就不买。罗伯茨周二在康卡斯特第二季度财报电话会议上表示:“我们没有参与收购内容公司的过程,而是主要关注NBA等有机机会。”。不过,如果你问Zaslav,罗伯茨和其他媒体资产的潜在买家不感兴趣的原因是政府把他们吓跑了。Zaslav本月早些时候公开表示了一个许多传统媒体高管多年来私下

  • 8 哈里斯也要参加 2024 比特币大会?今年大会关注度预计将史无前例 她的加密态度如何?

    哈里斯加密态度如何?1、此前未发表针对加密行业观点;2、马克库班称其对加密货币的态度比拜登开放得多;3、Bitcoin Magazine CEO称拟邀请出席25日召开的比特币大会,今日或有答复;哈里斯是美副总统,有希望替代拜登参与竞选。昨日加密社区传拜登身体不佳,哈里斯将上位成美首位女总统。这是谣言,今日有拜登登机视频证实其身体状况良好。特朗普称将与哈里斯辩论,但时间未知。哈里斯在选民登记中目前以

  • 9 瑞士银行寻求缩小现有的加密支付差距

    瑞士两家欧洲银行Amina Bank和Sygnum正在加强其加密业务。这两家银行都希望填补大约一年半前对加密货币友好的美国银行倒闭后加密货币支付的空白。 另请阅读:GameFi代币显示出回归叙事的迹象,销量增长了700% 据彭博社报道,这两家瑞士银行希望填补银门交易所网络(SEN)和Signature Bank的Signet平台关闭后留下的空白。这两家银行在去年3月倒闭之前,在为加密货币市场提供流

  • 10 加密社交媒体信号在大多数主要平台上再次上升

    在所有领先的社交媒体平台上,关于加密货币的讨论再次兴起。以太坊ETF交易的推出增加了整体复苏和对模因项目的兴趣。 社交媒体信号指标显示,加密货币正在重新受到关注,尽管2024年的市场更加低迷。最戏剧性的转变发生在X上,前身为推特,其通话量大幅下降,随后出现复苏。 使用量的最大变化来自Telegram,在那里,点击游戏和通过迷你应用程序进行的空投农业继续扩大。Reddit的讨论量正在逐渐增长。 另请