Whisper:医院受到OpenAI幻觉的困扰?

早在9月，OpenAl就发布了Whisper—一种支持多种语言转录的开源AI 转录工具–但使用该工具的工程师、研究人员和临床专业人员越来越担心其生成的转录本的准确性。超过30,000名临床医生和40个医疗系统使用whisper来记录和转录患者会面尽管它已经接受了来自网络的超过680,000小时的音频数据的训练，但许多人发现它经常产生幻觉。
一位研究人员发现，10份转录本中有8份出现了幻觉;另一位研究人员发现，在超过 100小时的转录本中，有一半包含错误信息;一位开发人员发现，在他创建的26,000份转录本中，几乎所有转录本都出现了幻觉。
该工具可以编造带有暴力或种族主义情绪的句子、虚构疾病、在沉默时生成无意义的短语，甚至包括YouTube上的常用短语，例如“谢谢观看!
虽然聊天机器人出现幻觉很常见(例如，还记得谷歌的双子胶披萨惨败吗？)，但转录工具出现幻觉还是有点不寻常的，因为它肯定只是在跟踪录音，但作为回应，OpenAl感谢研究人员分享他们的研究结果，并表示他们将继续致力于提高模型的“准确性”“包括减少幻觉”，并再次强调它不应该在“某些高风险的决策环境中”使用。