Перейти к основному содержимому

Программное обеспечение для ИИ

Приложения с графическим интерфейсом (GUI)

  • GPT4All — простой способ познакомиться с использованием локальных моделей (LLM)
  • LM Studio — расширенные возможности использования локальных языковых моделей
  • FlowiseAI — инструмент с открытым исходным кодом для визуального, безкодового (low-code) программирования LLM
  • KoboldAI UI

Разработка

  • AutoGen — программная платформа для агентного ИИ
  • llama.cpp — набор решений для работы с LLM
  • node-llama-cpp — обёртка llama.cpp для Node.js
  • LocalAI — альтернатива OpenAI с открытым исходным кодом
  • ollama — CLI и REST API для интеграции с большими языковыми моделями
  • LangChain - программная платформа (framework) для интеграции с LLM на Python и Node.js
  • LangGraph Studio
  • Semantic Kernel — SDK для интеграции больших языковых моделей (LLM)
  • NLTK — набор инструментов естественного языка (Natural Language Toolkit)

Системы управления базами данных (СУБД)

  • Apache Parquet — колоночная СУБД с открытым исходным кодом, предназначенный для эффективного хранения и извлечения данных
  • Chroma — векторная СУБД с открытым исходным кодом от Google
  • Faiss — библиотека для эффективного поиска сходства и кластеризации плотных векторов, разработанная компаний Facebook/Meta
  • Qdrant — это векторная база данных и поисковая система векторов с открытым исходным кодом, написанная на Rust