日本電氣，又稱日電或 NEC，是一家總部位于東京都港區(qū)的跨國(guó)信息技術(shù)公司，英文全稱為「Nippon Electric Company， Limited」，1983 年改為簡(jiǎn)稱 NEC。作為住友集團(tuán)的成員，NEC 專注于為商業(yè)企業(yè)和通信服務(wù)提供信息技術(shù)和網(wǎng)絡(luò)產(chǎn)品。
日本NEC公司社長(zhǎng)森田隆之在今年六月表示，正在探討?yīng)氉蚤_(kāi)發(fā)能自動(dòng)制作精巧文章及圖像的生成式人工智能（AI），以新服務(wù)的形式提供給用戶。
7 月 6 日，NEC 宣布本月開(kāi)始將為日本市場(chǎng)提供生成 AI 服務(wù)，該服務(wù)可根據(jù)客戶需求定制化。生成 AI 包括日本語(yǔ)言優(yōu)化的大規(guī)模語(yǔ)言模型（LLM）。提供的服務(wù)包括針對(duì)生成 AI 所需的硬件、軟件和咨詢服務(wù)，命名為「NEC Generative AI Service」。
為了支持客戶，NEC Generative AI Hub 團(tuán)隊(duì)提供了多種人才，包括提示工程師、咨詢顧問(wèn)和數(shù)據(jù)科學(xué)家等，旨在支持 NEC 的增長(zhǎng)并為客戶提供有價(jià)值的生成 AI 服務(wù)。
為了幫助客戶更好地使用生成 AI，NEC 提供了名為「NEC Generative AI framework」的軟件解決方案，其中包括提示模板、問(wèn)答強(qiáng)化和模型切換等功能。LLM 可以根據(jù)客戶需求提供「微軟 Azure OpenAI Service」或 NEC 開(kāi)發(fā)的 LLM。
通過(guò)與微軟的全球聯(lián)盟，NEC 將在以 NEC 印西數(shù)據(jù)中心為核心的「Microsoft Azure ExpressRoute」上提供服務(wù)。結(jié)合 NEC 的 LLM、NEC Generative AI framework 和可以在本地使用的硬件基礎(chǔ)設(shè)施「NEC Generative AI Appliance Server」，可以創(chuàng)建低延遲且安全的 LLM 環(huán)境。
此外，NEC 推出了名為「NEC Generative AI Advanced Customer Program」的綜合支持計(jì)劃，旨在結(jié)合 NEC 的專業(yè)知識(shí)和客戶的專業(yè)知識(shí)，為客戶提供模型創(chuàng)建、生成 AI 軟件開(kāi)發(fā)和組織搭建等全方位支持。目前，已經(jīng)有一些企業(yè)參與了該計(jì)劃，計(jì)劃通過(guò)企業(yè)間的交流創(chuàng)造新的商業(yè)模式。
NEC 開(kāi)發(fā)了專門針對(duì)日本市場(chǎng)的日語(yǔ)優(yōu)化的 LLM。根據(jù)使用日本語(yǔ)言理解基準(zhǔn)測(cè)試（JGLUE）對(duì) LLM 進(jìn)行評(píng)估，它在知識(shí)問(wèn)答方面達(dá)到 81.1％，在文檔閱讀理解方面達(dá)到 84.3％，性能在全球范圍內(nèi)屬于較高水平。
相比海外頂級(jí) LLM 的模型大?。▍?shù)大小）為 1750 億，NEC 開(kāi)發(fā)的 LLM 經(jīng)過(guò)輕量化處理，模型大小僅為 130 億，極具緊湊性。過(guò)去，性能出色的 LLM 需要 8 塊 GPU，而 NEC 的 LLM 可以在僅搭載 1 塊 GPU 的標(biāo)準(zhǔn)服務(wù)器上運(yùn)行。
這使得基于 LLM 的業(yè)務(wù)應(yīng)用可以具有良好的響應(yīng)性能，并有助于減少業(yè)務(wù)運(yùn)營(yíng)中的電力消耗和服務(wù)器成本。此外，可以實(shí)現(xiàn)本地部署，將 LLM 應(yīng)用于對(duì)機(jī)密性要求較高的業(yè)務(wù)，或者快速創(chuàng)建針對(duì)客戶定制的 LLM 模型。
NEC 已經(jīng)在內(nèi)部業(yè)務(wù)中廣泛應(yīng)用 LLM，如文檔創(chuàng)作、內(nèi)部系統(tǒng)開(kāi)發(fā)和源代碼生成等，以提高各種業(yè)務(wù)的效率。NEC 將繼續(xù)推進(jìn)基于基礎(chǔ)模型開(kāi)發(fā)針對(duì)客戶特定數(shù)據(jù)和行業(yè)的 LLM 模型，并進(jìn)一步提升基礎(chǔ)模型的性能。
NEC 數(shù)據(jù)科學(xué)實(shí)驗(yàn)室的主要研究員 Masafumi Oyamada 進(jìn)行了演示，展示了基于 LLM 的聊天工具原型「NEC Generative AI framework Chat」。用戶可以通過(guò)該工具輸入問(wèn)題并獲得回答，還可以進(jìn)行追問(wèn)。此外，LLM 還可用于編程、文檔生成和摘要等用途。
NEC 計(jì)劃在未來(lái)三年內(nèi)，在生成 AI 相關(guān)業(yè)務(wù)上實(shí)現(xiàn) 500 億日元的銷售額。
