开源人工智能

开源人工智能英語:)是将开源实践应用于人工智能资源开发的做法。许多开源人工智能产品都是基于大公司共享的开源软件,并对现有工具和技术进行改进。[1] 流行的开源人工智能项目类别包括大型语言模型机器翻译工具和聊天机器人[2] 对于开发开源人工智能资源的软件开发人员来说,他们必须信任他们在开发中使用的各种其他开源软件组件。[3]

大型语言模型

开源大型语言基础模型比较
模型 开发机构 参数计数 上下文窗口 许可
LLaMA[4] Meta AI 7B, 13B, 33B, 65B 2048 ——
LLaMA 2[5][6] Meta AI 7B, 13B, 70B 4k Custom Meta License
Mistral 7B[7] Mistral AI 7 billion 8k[8] Apache 2.0
GPT-J[9] EleutherAI 6 billion 2048 Apache 2.0
Pythia[10] EluetherAI 70 million - 12 billion —— Apache 2.0 (Pythia-6.9B only)[11]

参见

參考資料

  1. Heaven, Will Douglas. . MIT Technology Review. May 12, 2023 [2023-12-15]. (原始内容存档于2024-01-05) (英语).
  2. Castelvecchi, Davide. . Nature. 29 June 2023, 618 (7967): 891–892. doi:10.1038/d41586-023-01970-6.
  3. Thummadi, Babu Veeresh. . Lecture Notes in Computer Science 12896. 2021: 629–640. ISBN 978-3-030-85446-1. doi:10.1007/978-3-030-85447-8_52.
  4. . 2023-09-11 [2023-10-03]. (原始内容存档于2023-09-11).
  5. . huggingface.co. [2023-10-03]. (原始内容存档于2023-12-30).
  6. . ai.meta.com. [2023-10-03]. (原始内容存档于2024-01-05) (英语).
  7. . huggingface.co. [2023-10-03]. (原始内容存档于2023-12-29).
  8. AI, Mistral. . mistral.ai. 2023-09-27 [2023-10-03]. (原始内容存档于2024-01-06) (美国英语).
  9. . huggingface.co. 2023-05-03 [2023-10-03]. (原始内容存档于2023-03-12).
  10. Biderman, Stella; Schoelkopf, Hailey; Anthony, Quentin; Bradley, Herbie; O'Brien, Kyle; Hallahan, Eric; Mohammad Aflah Khan; Purohit, Shivanshu; USVSN Sai Prashanth; Raff, Edward; Skowron, Aviya; Sutawika, Lintang; Oskar van der Wal. . 2023-10-03. arXiv:2304.01373可免费查阅 [cs.CL].
  11. . huggingface.co. 2023-05-03 [2023-10-03]. (原始内容存档于2023-12-15).


This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.