一、成果簡介：智道企業(yè)級大模型應(yīng)用開發(fā)平臺，由中國科學(xué)院合肥物質(zhì)院智能所謝成軍與張潔團(tuán)隊研發(fā)。該平臺專注于為企業(yè)級大模型應(yīng)用提供一套全面的大語言模型（LLM）開發(fā)工具鏈，以及量身定制的端到端解決方案。平臺建設(shè)目標(biāo)是助力企業(yè)用戶（包括事業(yè)單位、高校、科研院所等機(jī)構(gòu)）迅速構(gòu)建通用大模型的垂直應(yīng)用，賦能并加速大模型在數(shù)智應(yīng)用開發(fā)領(lǐng)域的落地實施。
平臺功能包括：
（1）開發(fā)組件與流程編排：包括數(shù)百種開發(fā)組件，以應(yīng)對復(fù)雜業(yè)務(wù)場景，能夠融合大模型、專業(yè)小模型、規(guī)則引擎能力以及實現(xiàn)業(yè)務(wù)流程編排（智能體），幫助企業(yè)構(gòu)造完備、可控的應(yīng)用系統(tǒng)；
（2）檢索增強(qiáng)生成：針對私域知識、實時知識等進(jìn)行知識庫構(gòu)建及檢索增強(qiáng)問答、生成等能力；
（3）通用文檔解析：提供高質(zhì)量通用文檔解析能力，包含版式分析、表格識別、圖片識別、文字識別、公式識別等；
（4）非結(jié)構(gòu)化數(shù)據(jù)治理：借助通用KeyValue信息提取大模型，實現(xiàn)高效、高精度的非結(jié)構(gòu)化數(shù)據(jù)治理；
（5）大模型微調(diào)：支持全量微調(diào)、freeze微調(diào)、lora微調(diào)，預(yù)置主流Finetune微調(diào)數(shù)據(jù)集，提供微調(diào)訓(xùn)練數(shù)據(jù)集自動生成工具。
二、主要技術(shù)指標(biāo)：
（1）支持主流開源模型微調(diào)和私有化部署，包括ChatGLM、Baichuan、Llama、Qwen、Yi、internlm等數(shù)十種私有化大模型；
（2）支持主流模型推理后端：huggingface、vllm、llamacpp、ollama，支持int4/int8/FP16多種推理模式，并針對量化精度和量化性能針對性優(yōu)化；
（3）支持基于Embedding的語義檢索、基于關(guān)鍵詞的BM25檢索、基于知識圖譜的圖檢索以及多種方案混合檢索，檢索召回達(dá)到90%以上。
三、應(yīng)用領(lǐng)域和場景：面向企業(yè)、事業(yè)單位、高校、科研院所等機(jī)構(gòu)的數(shù)智化轉(zhuǎn)型應(yīng)用需求，提供知識管理（非結(jié)構(gòu)化數(shù)據(jù)治理）、數(shù)據(jù)分析（通用數(shù)據(jù)分析輔助、智能看板）、智能問答（基于知識庫、接口調(diào)用）、內(nèi)容審核（內(nèi)容重復(fù)性審查、合理性審查、邏輯性審查）、報告生成（日/周/月報、工作總結(jié)/報告）等應(yīng)用場景。
四、市場前景：2023年12月，國家數(shù)據(jù)局等17部門聯(lián)合印發(fā)《“數(shù)據(jù)要素×”三年行動計劃（2024—2026年）》，將大力支持開展通用人工智能大模型和垂直領(lǐng)域人工智能大模型訓(xùn)練。2023年10月，安徽省政府印發(fā)《安徽省通用人工智能創(chuàng)新發(fā)展三年行動計劃（2023—2025年）》，指出要加快研發(fā)基于我省認(rèn)知智能大模型底座的垂直行業(yè)大模型，加快應(yīng)用技術(shù)的持續(xù)突破和優(yōu)化，提升行業(yè)大模型的應(yīng)用效果。
在各級政府政策支持下，同時伴隨著數(shù)字化轉(zhuǎn)型的加速以及人工智能技術(shù)的發(fā)展，越來越多的企業(yè)開始尋求通過智能化手段提升業(yè)務(wù)效率和競爭力。“智道”企業(yè)級大模型應(yīng)用開發(fā)平臺應(yīng)運而生。該平臺具備低成本、高效率、易集成的優(yōu)勢，能夠幫助企業(yè)快速構(gòu)建通用大模型的垂直應(yīng)用，將成為企業(yè)實現(xiàn)智能化轉(zhuǎn)型的重要工具，因此具有廣闊的市場前景。
五、擬轉(zhuǎn)化的方式：平臺授權(quán)使用、定制化開發(fā)、技術(shù)合作或其他模式。（聯(lián)系人：張潔，聯(lián)系電話：13956901966）。
六、相關(guān)圖片：
基于組件的流程編排樣例
基于知識庫、數(shù)據(jù)庫的數(shù)據(jù)分析樣例
