hardware инфраструктура и цены на железо
задача
Иметь собственные мощности для расшифровки и анализа диалогов с помощью больших языковых моделей
решение
Компактный дата-центр с отдельными серверными стойками под разные задачи
выгода
Не зависеть от вендоров, соблюдать законодательство, наращивать экспертизу внутри команды
Инфраструктура infercom.one
|
Клиентский сервер расшифровки: |
6× A5000 =72 Gb |
24 CPUs × 2.5 GHz, 512Gb RAM, NVME SSD + СХД 8× Seagate ST16000NM001G |
|
Сервер обучения и расшифровки: |
4× A5000 =48 Gb NVLINK + 1× A100 |
48 CPUs × 3.2 GHz, 1 Tb RAM, NVME SSD + СХД 8× Seagate ST16000NM001G |
|
Общая вычислительная мощность в сутки: |
1× миллион часов аудио-расшифровки 1× миллион часов анализа расшифровок API OpenAI + LangChain 80× тысяч часов анализа с помощью Mixtral и LLama 70b на наших серверах |
|
Цены на аренду и покупку ON PREMISE
| Наименование | Расшифровка на месяц Аренда выделенного сервера, до 120 тыс. часов диалога | Обучение LLM на месяц Аренда выделенного сервера, для LLama 70b и Mixtral |
Расшифровка Покупка ONPREMISE |
Обучение Покупка ONPREMISE |
|---|---|---|---|---|
| GPU | 2× GPU A5000 | 1× A100 | Сервер-бокс 2× GPU A5000 | Сервер-бокс 1× A100 |
| CPU | 16× 3,2 ГГц, 256 GB RAM, NVME SSD | 24× 3,2 ГГц, 512GB RAM, NVME SSD | 2× 24 Ядра, 256GB RAM, 4TB SSD, 8ТБ HDD | 2× 24 Ядра, 512 GB RAM, 4TB SSD, 28 ТБ HDD |
 Рыночная цена
|
120 000 ₽ | 250 000 ₽ | 1 200 000 ₽ | 4 000 000 ₽ |
| 🟢 INFERCOM –18% | 98 400 ₽ | 205 000 ₽ | 984 000 ₽ | 3 280 000 ₽ |
| 🟢 Пуск, наладка | 19 200 ₽ | 40 000 ₽ | 192 000 ₽ | 640 000 ₽ |
❇️ Специальное предложение для компаний 400+ сотрудников
|
Свой сервер обучения и расшифровки: |
Сервер-бокс 1× A100 + 3× A5000 |
2× 24 Ядра, 512 GB RAM, 4TB SSD, 28 ТБ HDD |
Рыночная цена: от 5 000 000 ₽ INFERCOM: покупка 4 100 000 ₽, пуск/наладка 800 000 ₽ |
| Общая вычислительная мощность в сутки: |
500× тысяч часов аудио-расшифровки 1× миллион часов анализа расшифровок с помощью API OpenAI в сети LangChain 80× тысяч часов анализа с помощью Mixtral или LLama 70b |
||
Агенты, RAG, FineTuning — под ваши требования.
Поделимся экспертизой и подберём нужный стек систем с поддержкой и последующим развитием.
