数字安全观察｜白宫将支持AI红队公开评估 OpenAI、Google、Anthropic 语言模型中的缺陷

Original 天枢智库 360天枢智库 2024-01-09

点击上方蓝色文字关注我们吧

技术趋势

全文字数: 650字

阅读时长: 3分钟

本期推荐

白宫将支持AI红队公开评估 OpenAI、Google、Anthropic 语言模型中的缺陷
研究人员借助ChatGPT部署蜜罐实施欺骗防御

白宫将支持AI红队公开评估 OpenAI、Google、Anthropic 语言模型中的缺陷

2023年5月4日，白宫宣布包括OpenAI、谷歌、AntrHopic、Huging Face、微软、Nvidia和Stability AI在内的顶级人工智能开发商将在8月于拉斯维加斯举行的黑客大会DEF Con 31上参与对各自生成式人工智能系统的公开评估。这项行动是白宫进一步促进负责任的美国人工智能创新，保护人们权利和安全所采取的三项重大行动的一部分。（来源：whitehouse，arstechnica，aivillage）【天枢点评】 GPT在数据安全、伦理道德和法律层面的风险引发各国对人工智能监管层的强烈反应。白宫召集大语言模型厂商高管座谈，并出台相关举措正是鲜明的写照。这一行动从短期看，与OpenAI主导实施的“漏洞赏金计划”类似，是对当前生成式人工智能带来备受争议的安全风险的积极响应，缓解人们对其安全的焦虑；长期看，这为大语言模型的发展构建了一种风险缓解模式，降低与监管红线的接触机会，从而促进大语言模型的快速迭代和广泛部署。

研究人员借助ChatGPT部署蜜罐实施欺骗防御

2023年5月3日，欺骗即服务提供商Lupovis首席执行官Xavier Bellekens讲述了如何使用ChatGPT创建一个打印机蜜罐来诱骗黑客试图攻破一个不存在的系统。这个蜜罐具有打印机的常见功能，包括管理登录页面、用户名、口令、配置更改按钮等。创建完毕后，在VPS提供商Vultr进行托管，很快就监控到传入的连接记录。

（来源：venturebeat，substack）

【天枢点评】

用ChaptGPT重塑业务模式是一种普遍的预期。借助于Xavier Bellekens的方法，用ChaptGPT生成各种网络设备、服务并构建虚拟的蜜网，从而实现比传统蜜网更大规模、更低成本、更加敏捷的安全防御。不过若要具备较高的防御能力，构建高交互的蜜网，还需要对ChatGPT提示设计方法更加深入的研究。

精彩回顾

数字安全观察｜伊朗黑客组织Mint Sandstorm对美国的关键基础设施实施网络攻击

数字安全观察｜OpenAI幕后的英雄Scale AI入选CNBC颠覆者50强

数字安全观察｜欧盟达成《人工智能法案》初步协议

【AI 安全快讯】| 美白宫与AI头部企业就推进负责任人工智能创新展开对话

欢迎订阅完整版，邮件请至：dipperresearch@360.cn

天枢智库享有对本文的独家版权，未经许可，请勿直接转载或用于其他商业用途，否则将追究法律责任。

点个赞加分享再走吧!

继续滑动看下一个