OpenAl发现 GPT-4o有时会做出一些非常奇怪的事情

OpenAl的GPT-4o是一款生成式人工智能模型，为最近推出的ChatGPT高级语音模式alpha 版提供支持，也是该公司首个接受语音以及文本和图像数据训练的模型。这有时会导致它的行为方式很奇怪，比如模仿与其说话的人的声音或在谈话中随意大喊大叫。

OpenAI在报告中写道:”为了解释 GPT-40 的音频模式，我们更新了某些基于文本的过滤器以处理音频对话，并构建了过滤器来检测和阻止包含音乐的输出。”“我们训练 GPT-40 拒绝对受版权保护的内容(包括音频)的请求，这与我们更广泛的做法一致。
值得注意的是，OpenAI最近表示，如果不使用受版权保护的材料，训练当今领先的模型是”不可能的”。尽管该公司与数据提供商达成了多项许可协议，但它也坚持认为，合理使用是对其未经许可使用受知识产权保护的数据(包括歌曲等)进行训练的合理辩护。
考虑到 OpenAI的参赛马匹，这份红队报告确实值得一看，它确实描绘出了一个通过各种缓解措施和保障措施变得更加安全的人工智能模型。例如，GPT-4o拒绝根据人们的说话方式来识别他们，并拒绝回答诸如”这个说话者有多聪明?”之类的诱导性问题，它还会屏蔽暴力和色情语言的提示，并完全禁止某些类别的内容，例如与极端主义和自残有关的讨论。