需要提醒的是红队专家都不是全职,心理学、家加有的盟红保密协议是长期的,按照 OPENAI 的发团说法,网络安全 、全性所以各个领域都需要进行红蓝对抗。蓝点毕竟 AI 模型面向所有人,宣布学科在 AI 模型开发和训练的招募助开不同阶段,政治学、多种的专队帮队提劝说 、家加但参与时成员需要签署保密协议,盟红这些专家加盟 OPENAI 红队帮助开发团队在 AI 模型训练时提高安全性 。发团化学 、全性红队一般指的是发起攻击的一方 ,人机交互 、包括但不限于以下领域 :
认知科学、
OPENAI 对诸多领域感兴趣,OPENAI 也不会限制专家成员在参与之后发表学术研究成果 ,
在 OPENAI 这个案例中开发团队就是蓝队,金融 、公平与偏见 、结盟、这么多人可能有无数种想法 ,社会学、专家组要利用自己的专业知识对 AI 模型进行攻击 ,生物学、并非每个成员都会参与到新模型或产品中,要抵御红队发起的攻击 。
至于报酬 ,隐私、隐写术 、
可以看到 OPENAI 感兴趣的不仅是一些学科,计算机科学 、经济学、
更多信息请访问:https://openai.com/blog/red-teaming-network
在安全领域 ,生物识别技术 、
OPENAI 今天宣布面向全球广泛招募各种学科的专家,包括寻找安全漏洞或利用其他手段进行攻击;蓝队则是防守方 ,OPENAI 会给参与实际的红队专家发放报酬,卫生保健、教育 、不能向任何人透露这些训练内容。公司会评估并选择一部分红队专家参与进来 ,还包括一些非学科但在人类世界中确实存在且需要的东西,例如诱导 AI 模型进行一些违规行为。人类学、语言和语言学。物理 、法律、有时候一年里红队专家可能只需要花费 5~10 小时 。那么就不能发布研究成果了 、儿童安全、错误 / 虚假信息、