清華大學的 NLP 團隊與智譜 AI 及清華 KEG 實驗室宣布，他們的 ChatGLM-6B 和 ChatGLM2-6B 模型現(xiàn)已完全開放權(quán)重，允許學術(shù)研究和商業(yè)使用。這兩個模型在人工智能研究領(lǐng)域具有重要意義。
ChatGLM-6B 模型是基于 General Language Model（GLM）架構(gòu)的中英雙語對話模型，擁有62億參數(shù)。通過模型量化技術(shù)，該模型可以在消費級顯卡上進行本地部署，最低只需6GB 顯存。該模型具備問答和對話功能，初步展現(xiàn)了其在人工智能領(lǐng)域的應用潛力。
ChatGLM2-6B 模型在保留了初代模型的對話流暢和低門檻部署特性的基礎上，增加了更多新特性。首先，它采用了 GLM 的混合目標函數(shù)，經(jīng)過了1.4T 中英標識符的預訓練和人類偏好對齊訓練，性能得到了顯著提升。其次，上下文長度從 ChatGLM-6B 的2K 擴展到了32K，可以處理更長的對話內(nèi)容。第三，推理速度提升了42%，并且在 INT4量化下，6GB 顯存可以支持更長的對話長度，從1K 提升到了8K。最重要的是，ChatGLM2-6B 的權(quán)重對學術(shù)研究是完全開放的，這對于推動人工智能技術(shù)的發(fā)展具有積極意義。
這兩個模型的開放將為學術(shù)界和商業(yè)領(lǐng)域的研究者提供更多機會，推動人工智能的創(chuàng)新與應用。他們的發(fā)布也標志著清華大學在人工智能領(lǐng)域的重要突破，為全球的 AI 研究和應用探索開啟了新的篇章。未來，我們可以期待更多基于 ChatGLM-6B 和 ChatGLM2-6B 模型的研究成果和應用場景的出現(xiàn)，推動人工智能技術(shù)的發(fā)展進程。
