OpenAI发布了gpt - 40系统卡，这是一份详细的研究文件，概述了该模型在5月份公开发布之前进行的安全协议和风险评估。该文件阐明了OpenAI为减轻其最新多模式人工智能模型相关的潜在风险所做的努力。
在发布之前，OpenAI采用了一种标准做法，即利用外部红队(red teams)，即负责识别系统漏洞的安全专家。这些专家探讨了与gpt - 40相关的潜在风险，例如未经授权的语音克隆、产生不适当的内容以及侵犯版权。
基于OpenAI的内部框架，研究人员将gpt - 40归类为“中等”风险水平。这一整体风险评估来自于四个关键类别的最高个人风险评级:网络安全、生物威胁、说服和模型自治。所有类别都被认为是低风险的，除了说服，其中某些gpt - 40生成的文本样本比人类书写的文本样本显示出更大的说服力潜力。
OpenAI发言人Lindsay McCallum r
该版本遵循了之前模型(如GPT-4, GPT-4 with vision和DALL-E 3)的类似系统卡出版物，展示了OpenAI在评估其人工智能系统时对透明度和外部协作的承诺。
这次发布的时机尤为重要，因为OpenAI面临着关于其安全实践的持续批评。内部员工和外部利益相关者都提出了担忧，包括参议员伊丽莎白·沃伦(Elizabeth Warren)和众议员洛里·特拉汉(Lori Trahan)最近的一封公开信，要求在OpenAI的安全审查过程中提高问责制和透明度。
像gpt - 40这样功能强大的多模式模型在美国总统大选临近之际发布，引发了人们对错误信息和恶意利用可能性的担忧。OpenAI的系统卡旨在通过强调该公司通过现实场景测试来减轻此类风险的积极努力来解决这些问题。
尽管OpenAI做出了努力，但要求提高透明度和外部监督的呼声仍然存在。重点超越了培训数据，涵盖了整个安全测试过程。在加州，监管大型语言模型的立法正在进行中，包括让公司对其人工智能系统造成的潜在危害负责。
本文来自作者[伍路喧]投稿，不代表光诉信息立场，如若转载，请注明出处：https://m.xrwohh.cn/zsfx/202507-16.html
评论列表（4条）
我是光诉信息的签约作者“伍路喧”！
希望本篇文章《OpenAI最新评估显示，GPT-40模型被评为‘中等’风险》能对你有所帮助！
本站[光诉信息]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： OpenAI发布了gpt - 40系统卡，这是一份详细的研究文件，概述了该模型在5月份公开发布之前进行的安全协议和风险评估。该文件阐明了OpenAI为减轻其最新多模式...