07 / 06 / 2024

Дмитрий Демидов, руководитель Лаборатории инноваций НОРБИТ, рассказывает, как отечественный бизнес справляется с растущим спросом на вычислительные мощности, связанным с активной популяризацией ИИ.

Эксперт отметил, что сейчас, при обсуждении проектов с использование LLM, вопросы возникают именно по серверному железу. Эксперименты с запуском на мощных станциях, локальных ПК или даже маломощном встраиваемом оборудовании показывают, что гораздо эффективнее задействовать серверные мощности и обеспечить качественную связь.

Пока не складываются такие сценарии, при которых экономически выгоднее было бы запускать LLM на локальных станциях. А как только уменьшаешь мощность оборудования, задержка становится такая, что решение становится неудобным для пользователей. Так что на текущий момент локальные LLM – скорее, вопрос будущего.

Говоря о применимости ИИ-ПК, Дмитрий Демидов дал консервативную оценку. По его мнению, эффективность AI PC ниже, чем эффективность PC, подключенного к сети со множеством доступных серверных моделей.  Однако он подчеркнул, что области, в которых AI PC-функции дают понятные преимущества есть, в частности, для съёмки фото и видео (в случае со смартфонами). Или использование специализированных процессоров для анализа данных и работы DS-специалистов (Data Science). Но для обычного пользователя AI PC не приносят большой ценности.

Подробнее  по ссылке.

Читайте далее
06 / 06 / 2024 НОРБИТ выпустил планировщик задач АспектПлан для пользователей Битрикс24 подробнее
05 / 06 / 2024 Благотворительность в цифре: CRM для фонда «Хранители детства» подробнее
03 / 06 / 2024 НОРБИТ возглавил рейтинг Cnews подробнее
Подпишитесь на наш блог
Бесплатная консультация

Оставьте заявку и мы проведем бесплатную консультцию и ответим на ваши вопросы

Оставьте заявку, и мы свяжемся с вами

или свяжитесь с экспертами НОРБИТ по телефону +7 495 787-29-92

Оставьте заявку, и мы свяжемся с вами

или свяжитесь с экспертами НОРБИТ по телефону +7 495 787-29-92

Отправьте резюме, и мы свяжемся с вами

или свяжитесь с HR экспертами

по телефону +7 495 787-29-92

Прикрепить файл (DOC, DOCX, PDF, не более 5 мб)
Спасибо!

Благодарим за обращение. Ваша заявка принята

Наш специалист свяжется с Вами в течение рабочего дня
Спасибо!

Ваш запрос на рассылку принят.

Теперь вы всегда будете в курсе наших новостей
Спасибо!

Резюме отправлено.

Наш специалист свяжется с Вами в течение рабочего дня
Сайт использует файлы cookie. Подробная информация в правилах по обработке персональных данных. Вы можете запретить сохранение cookie в настройках своего браузера.