Локальный искусственный интеллект

Локальный искусственный интеллект означает, что языковая или текстовая модель работает там, где появляются данные — на устройстве на месте или на сервере в Германии. Содержимое, которое человек вводит в модель, не покидает этого места. Это отличает локальный ИИ от предложений, где тексты отправляются на серверы в других странах.

Что это значит?

Тот, кто работает с локальным ИИ, сохраняет контроль над своими вводами. Человек сам решает, какие данные модель вообще видит. Установку в муниципалитете можно настроить так, что доступ будет только у собственных сотрудников.

Что уже возможно сегодня?

На обычном офисном компьютере можно запускать небольшие текстовые модели. Для более длинных документов или многоязычных запросов требуется дополнительное оборудование на месте. Качество языка зависит от модели и памяти, а не от того, где работает модель.

Что пока остаётся открытым?

Какие модели можно долгосрочно и экономично эксплуатировать в муниципалитете, сейчас проверяется на практике. Какие задачи поручать ИИ, решает сам муниципалитет. Подходит ли модель для конкретной задачи, нужно проверять в каждом отдельном случае.

К архитектуре · Подать заявку на пилот

Названия и версии моделей на сайте, как правило, не указываются.