OpenAI 為防「模型崩潰」風險 大量解僱用AI訓練AI的承包商

人工智慧巨頭 OpenAI 近期解僱了多名承包商，原因在於這些人員被發現使用 AI 工具來協助訓練 OpenAI 的 AI 模型，而非提供其應有的人類輸入。這項行為違反了 OpenAI 與承包商之間的合約條款。

這些承包商的工作內容是閱讀 ChatGPT 的使用者提示，並據此改進 AI 模型的回應。然而，《Computerworld》報導指出，許多承包商利用 AI 偵測工具或直接使用 AI 本身來完成任務，此舉顯然與 OpenAI 的政策相悖。根據合約規定，承包商被明確告知：「請勿使用 AI 偵測工具或自行使用 AI。請勿使用 GPTZero 或任何其他 AI 偵測工具，它們不可靠。審查人員亦不得使用 AI，包括 Grammarly 和 AI 翻譯，來審查、撰寫回饋或評論。」

OpenAI 擔憂此類行為將導致 AI 模型發生「模型崩潰」（model collapse）現象，這是一種當 AI 模型被大量由 AI 生成的文本訓練後，其性能會顯著下降的問題。換句話說，如果讓 AI 學習 AI 創造的內容，可能會讓 AI 變得越來越差。

一位不具名的承包商透露，利用 AI 協助完成任務在內部是普遍現象，但也是「最肯定會被立刻解僱的行為」。該名承包商表示，在數千人的團隊中，已有許多人因此被抓到。然而，OpenAI 對此事件拒絕發表評論，導致外界難以得知此行為的實際普遍程度。