English Version: Please see the English version document
（備註：此產品會因相關需求，隨時進行修正，並且更新於此。）
為企業所打造的大型語言模型服務與專案對話系統平台，本系統由 InfuseAI 提供服務。
- 平台功能
| 帳號權限管理 | 對話平台介面 |
|---|---|
 |
 |
| 知識庫介接轉換 | 測試模型API |
|---|---|
 |
 |
為了協助企業迅速且有效地導入大型語言模型，本應用著重於以下幾個關鍵領域：
- 企業機密資料外洩與資安問題：鑒於公司的風險評估，無法採用某些大型語言模型，從而增加了整合這些模型的挑戰。
- 模型學習內部知識的能力：考慮到公司內部擁有豐富的知識庫文件，探索如何有效地使模型快速吸收這些知識成為關鍵。
- 持續改進模型的可能性：如果不定期更新大型語言模型，可能會遇到無法解答的問題，因此確保模型的持續進步變得至關重要。
- 大型語言模型的專案管理：隨著企業逐步在日常工作環境中整合LLM的不同專案，針對知識庫和模型的管理、專案權限和帳號的有效控制變得尤為重要。
-
OpenAI API Service:
本平台支援 OpenAI API Service，包含：
- OpenAI API Service
- Azure OpenAI API Service (AOAI)
-
LlaMa GGUF 模型：
本平台支援GGUF模型格式進行服務啟動與使用
-
繁體中文 Llama GGUF 模型：
本平台確認可使用的繁體中文 Llama 模型整理如下：
| Model Name | Author | HuggingFace Repo |
|---|---|---|
| Taiwan-LLaMa-v1.0 | 台大陳縕儂實驗室 林彥廷博士生候選人 | yentinglin/Taiwan-LLaMa-v1.0 |
| Taiwan-LLM-7B-v2.1-chat | 台大陳縕儂實驗室 林彥廷博士生候選人 優必達株式會社 Ubitus |
yentinglin/Taiwan-LLM-7B-v2.1-chat |
| Taiwan-LLM-13B-v2.0-chat | 台大陳縕儂實驗室 林彥廷博士生候選人 優必達株式會社 Ubitus |
yentinglin/Taiwan-LLM-13B-v2.0-chat |
| Mistral-7B-v0.1 | Mistral AI Team | mistralai/Mistral-7B-v0.1 |
| TAIDE-7B-b.11.0.0 | 國科會 | TAIDE 官方網站 備註：目前尚未公開，InfuseAI 已與國科會進行合作，確認模型使用與串接方式 |
- 可透過 CSV 檔案匯入轉換成 Embedding Vector，並且存放到 pgvector Database 來進行存放作業。
- 後續會根據客戶需求，來導入更多的知識庫。
-
[ 方法 1 ] 將相關需求撰寫，並且寄送至 InfuseAI Business E-mail: [email protected]
-
[ 方法 2 ] 填寫以下表單，將由專人與您聯絡：
#TODO: form generation
