安全研究人员在最受欢迎的人工智能模型周围放置了备受吹捧的护栏，以观察它们抵御越狱的能力，并测试了聊天机器人可以被推入危险区域的程度。实验确定，Grok——埃隆·马斯克的x.AI开发的具有“有趣模式”的聊天机器人——是这群人中最不安全的工具。
Adversa AI联合创始人兼首席执行官Alex Polyakov告诉Decrypt：“我们想测试现有解决方案的比较情况，以及LLM安全测试的根本不同方法，这些方法可能会导致各种结果。”。Polyakov的公司专注于保护人工智能及其用户免受网络威胁、隐私问题和安全事件的影响，并吹嘘其工作在Gartner的分析中被引用。
越狱是指规避软件开发人员实施的安全限制和道德准则。
在一个例子中，研究人员使用了一种语言逻辑操作方法——也被称为基于社会工程的方法——询问Grok如何引诱孩子。聊天机器人提供了详细的回应，研究人员指出，这是“高度敏感的”，默认情况下应该受到限制。
其他研究结果提供了如何给汽车加电和制造炸弹的指导。
图片：Adversa。人工智能研究人员测试了三类不同的攻击方法。首先，上述技术，它应用各种语言技巧和心理提示来操纵人工智能模型的行为。引用的一个例子是使用“基于角色的越狱”，将请求框定为允许不道德行为的虚构场景的一部分。
该团队还利用编程逻辑操纵策略，利用聊天机器人理解编程语言和遵循算法的能力。其中一种技术是将危险的提示拆分为多个无害的部分，然后将它们连接起来以绕过内容过滤器。七分之四的模型——包括OpenAI的ChatGPT、Mistral的Le Chat、谷歌的Gemini和x.AI的Grok——容易受到这种攻击。
图片：Adversa。人工智能第三种方法涉及对抗性人工智能方法，针对语言模型如何处理和解释标记序列。通过精心制作具有相似矢量表示的令牌组合提示，研究人员试图避开聊天机器人的内容审核系统。然而，在这种情况下，每个聊天机器人都检测到了攻击，并防止其被利用。
研究人员根据聊天机器人在阻止越狱企图方面各自的安全措施的强度对其进行了排名。Meta LLAMA是所有测试聊天机器人中最安全的型号，其次是Claude，然后是Gemini和GPT-4。
Polyakov告诉Decrypt：“我认为，教训是，与封闭式产品相比，开源给了你更多的可变性来保护最终解决方案，但前提是你知道该做什么以及如何正确地做。”。
然而，Grok对某些越狱方法表现出相对较高的脆弱性，尤其是那些涉及语言操纵和编程逻辑利用的方法。根据该报告，Grok比其他人更有可能在越狱时提供可能被视为有害或不道德的回应。
总体而言，埃隆的聊天机器人与Mistral AI的专有模型“Mistral Large”一起排名最后
图片：Adversa。人工智能为了防止潜在的滥用，没有披露完整的技术细节，但研究人员表示，他们希望与聊天机器人开发者合作，改进人工智能安全协议。
人工智能爱好者和黑客都在不断探索“无传感器”聊天机器人互动的方法，在留言板和Discord服务器上交换越狱提示。技巧从OG Karen提示到更具创造性的想法，如使用ASCII艺术或用异国语言提示。在某种程度上，这些社区形成了一个巨大的对抗性网络，人工智能开发人员可以修补和增强他们的模型。
然而，有些人看到了犯罪的机会，而另一些人只看到了有趣的挑战。
波利亚科夫说：“在许多论坛上，人们出售可以用于任何恶意目的的越狱模型。”。“黑客可以使用越狱模型创建钓鱼电子邮件、恶意软件、大规模生成仇恨言论，并将这些模型用于任何其他非法目的。”
波利亚科夫解释说，随着社会开始越来越依赖人工智能驱动的解决方案，从约会到战争，越狱研究变得越来越重要。
他警告说：“如果这些聊天机器人或他们所依赖的模型被用于自动化决策，并连接到电子邮件助理或金融业务应用程序，黑客将能够完全控制连接的应用程序并执行任何行动，例如代表被黑客入侵的用户发送电子邮件或进行金融交易。”。
由Ryan Ozawa编辑。
1 这就是为什么比特币流向交易所的净流量创下年度新高：ITB
自本月初以来，流入加密货币交易所的比特币（BTC）一直在增加。这主要是由于已停业的BTC交易平台Mt.Gox的恢复受托人进行了债权人分配。 区块链分析平台IntoTheBlock的数据显示，7月25日，交易所BTC净流量达到28亿美元的年度高点。加密货币交易平台在3月中旬也出现了类似的BTC流入，大约在美国现货比特币交易所交易基金（ETF）市场上线两个月后。 Mt.Gox存款推动外汇流动 Mt.G
比特币现金价格从比特币会议开始就大幅上涨，一直持续到周末，并延续到周一。这种上涨可能归功于刚刚结束的会议，肯尼迪和川普在会上向比特币和加密货币社区做出了巨大的承诺。同时，Bitstamp 批准 Mt. Gox 存入的 BCH 和 BTC 供债权人使用，这也在一定程度上激发了人们对加密资产的兴趣。此外因为上述利好因素，比特币现金价格上涨 13.08%，交易量为 4.26322 亿，24 小时最高/最
来源：环球时报【环球时报报道 记者 李萌】据《纽约时报》等多家外媒报道，在当地时间27日举行的2024年比特币大会上，美国前总统特朗普发表的演讲引发热议，他不仅对比特币的未来给出大胆承诺，还表达了对当前监管政策的强烈不满。特朗普 资料图特朗普宣称，如果他重返白宫，将致力于使美国成为全球“加密货币之都”和“比特币超级大国”。他承诺，在他的领导下，比特币将得到开采和推广，以巩固美国在全球加密货币领域中
参考消息网7月29日报道 据美联社7月27日报道，美国前总统唐纳德·特朗普27日阐述了若再度当选总统将全心全意接受加密货币的计划。特朗普对数百名欢呼的数字代币支持者说，他希望美国在他领导下成为一个“比特币超级大国”。在田纳西州纳什维尔举行的一场比特币大会上，这位共和党总统候选人在主题发言中承诺，将使美国成为“地球加密货币之都”，并将使用美国政府目前持有的比特币创建比特币“战略储备”。特朗普还承诺，
周末，川普出席了2024比特币大会，并在会上发表了将近50分钟的演讲。这篇演讲透露的信息非常丰富，今天就和大家分享一下我觉得这篇演讲中值得注意的一些观点。Odaily发表了一篇对这次演讲的全文翻译（见文后参考链接）。在下文中，我分享的观点就归纳总结自这篇翻译文档。1. 对比特币的理解“它（注：比特币）已经比埃克森美孚还大了。很快它将超过整个白银市场的市值。总有一天，它可能会超越黄金。”对这一点我是
中国警方透露，四名前火币员工因窃取40000多个用户助记符和私钥被判处三年监禁。 这些前雇员在钱包中植入了木马，使他们能够收集敏感信息，尽管被盗加密货币的确切数量尚未披露。 中国区块链记者Colin Wu解释说，张、董和刘在一家疑似火币的公司工作，他们于2023年3月初开始犯罪活动。 他们将后门程序嵌入到加密钱包软件中，以捕获用户私钥。到2023年5月底，他们已经存储了这些被盗的钥匙和相应的钱包地
7 币圈大佬孙宇晨悄悄购买 2000 亿 SHIB,分散在尾数为 X52b31 的钱包,你怎么看?
最近，听说币圈大佬孙宇晨悄悄购买了 2000 亿的 SHIB，还分散在尾数为 X52b31 的钱包里。这消息一出来，整个币圈都像是被扔进了一颗深水炸弹，激起了千层浪啊！说实在的，刚听到这消息的时候，我那小心肝都快跳出来了！这孙宇晨是谁啊？那可是币圈响当当的人物！他这一出手，2000 亿的 SHIB 啊，这可不是小数目。我就想，这是不是意味着 SHIB 要一飞冲天啦？说不定我手里那点可怜的 SHIB
作者：陈律师上海作为目前非洲Web3 市场扩张速度最快的国家之一，尼日尼亚的 Web3 市场发展前景非常可观。目前，已经有越来越多的尼日利亚人试图在不健康的经济环境中寻找一种新的价值存储方式，尼日利亚人口众、年轻且对新兴事物抱有浓厚兴趣，这一切都推动了尼日利亚加密货币市场的发展。 尼日尼亚的Web3 监管处于动态的发展之中。早在2021年，尼日利亚中央银行（CBN）即明令禁止商业银行为加密货币交
当两个相关资产出现分歧时，只需做出一个简单的判断。资产将保持分歧，甚至可能进一步分歧，或者它们将在未来某个时间恢复。您可以利用这些关系尝试从修订中获取利润，甚至可以使用多空策略来保持市场中立。大多数人期望过去的价值比率重新同步，但这并不一定会发生。黄金与白银的对比就是一个很好的例子。纵观历史，黄金的价格曾是白银的 5 倍、10 倍、20 倍，甚至今天的 80 倍。尽管仍有大批贵金属信徒向往白银和黄
在埃隆·马斯克的社交平台X上，自动生成的表情符号不再伴随着比特币和加密货币标签，该平台拥有一些最活跃的加密货币社区。 根据多个消息来源，X于7月25日删除了比特币标签表情符号和其他一些加密表情符号。删除这些加密表情符号的原因让X加密社区感到困惑。 截至周五上午，该平台的社交媒体渠道和新闻网站尚未公开宣布删除。 X上的加密用户周五早些时候开始抱怨，当他们在服务上发布“#bitcoin”时，他们再也看
