Whisper:医院受到OpenAI幻觉的困扰?

文章1周前更新 admin
53 1

早在9月,OpenAl就发布了Whisper—一种支持多种语言转录的开源AI 转录工具–但使用该工具的工程师、研究人员和临床专业人员越来越担心其生成的转录本的准确性。Whisper:医院受到OpenAI幻觉的困扰?超过30,000名临床医生和40个医疗系统使用whisper来记录和转录患者会面尽管它已经接受了来自网络的超过680,000小时的音频数据的训练,但许多人发现它经常产生幻觉。
一位研究人员发现,10份转录本中有8份出现了幻觉;另一位研究人员发现,在超过 100小时的转录本中,有一半包含错误信息;一位开发人员发现,在他创建的26,000份转录本中,几乎所有转录本都出现了幻觉。
该工具可以编造带有暴力或种族主义情绪的句子、虚构疾病、在沉默时生成无意义的短语,甚至包括YouTube上的常用短语,例如“谢谢观看!
虽然聊天机器人出现幻觉很常见(例如,还记得谷歌的双子胶披萨惨败吗?),但转录工具出现幻觉还是有点不寻常的,因为它肯定只是在跟踪录音,但作为回应,OpenAl感谢研究人员分享他们的研究结果,并表示他们将继续致力于提高模型的“准确性”“包括减少幻觉”,并再次强调它不应该在“某些高风险的决策环境中”使用。

© 版权声明

1 条评论

  • Zoila Bauch
    Zoila Bauch 游客

    Your blog is a constant source of inspiration for me. Your passion for your subject matter is palpable, and it’s clear that you pour your heart and soul into every post. Keep up the incredible work!

    回复