CKIP
」
AI語言模型「國慶日回答10／1」出包 中研院：研究員自行發布試用版
中央研究院近日推出類似ChatGPT（AI）的繁體中文語言模型「CKIP-Llama-2-7b」，然而語言模型竟回答我國領導人是「國家主席習近平」，甚至回答我國法律是「中華人民共和國憲法」，引發外界議論，目前已下架。對此，中研院發聲明回應了。中研院聲明指出，CKIP模型（CKIP-Llama-2-7b）為本院個別研究人員主持的詞庫小組（CKIP）的實驗性研究，模型尚在測試階段，由該研究人員自行發布試用版本。中研院強調，本院相當重視此事件對社會的影響，將釐清事件是否違反相關規定，後續將規劃成立「生成式AI風險研究小組」，深入了解AI對社會的衝擊，提供研究人員相關指引，避免類似事件再度發生。中研院表示，繁體中文語料庫是發展台灣大型語言模型的重要基礎，本院將整合繁體中文詞知識庫，投入資源並規劃管理機制，本院已召開數次生成式AI相關會議，將擴大召集AI相關的跨領域研究人員，以團隊方式連結資訊科技、人文及社會科學人才進行跨領域研究，與全國各界共同促進臺灣繁體語境生成式AI的發展。
中研院學AI語言模型大出包 問國慶幾號回答「10月1日」
中央研究院近日推出類似CHatGPT（AI）的繁體中文語言模型「CKIP-Llama-2-7b」，但就有網友問「我國領導人是誰？」結果語言模型竟回答「國家主席習近平」，甚至被問我國法律，則回答「中華人民共和國憲法」，這樣的狀況曝光後，中研院也在今日緊急下架該軟體，並給出出現這樣狀況的說法。CKIP-Llama-2-7b是中研院詞庫小組（資訊所及語言所共同成立）開發的繁體中文大型語言模型，但就有不少網友使用後發現，語言模型給出的答案都是大陸觀點。如「我國領導人是誰？」語言模型直接回答「國家主席習近平」；「國慶日是何時？」回覆是每年的10月1日。這樣的狀況讓AI專家認為，中研院的語言模型都是採用大陸資料，再「簡體轉繁提」而已。對此，中研院資訊所也發布聲明表示，CKIP-LlaMa-2-7b並非「台版chatGPT」，跟國科會正在發展的TAIDE無關。CKIP-LlaMa-2-7b的研究目標之一，是讓meta開發的Llama 2大型語言模型具備更好的繁體中文處理能力。中研院資訊所表示，由於這是一項個人小型的研究，各界對該模型進行的提問測試，並未在原始的研究範疇。研究人員今日已將測試版下架，未來相關研究及成果釋出會更加謹慎。對相關研究的成果，公開釋出前，院內也會擬定審核機制，避免類似問題產生。