Новосибирский государственный университет разместил умного чат-бота в Telegram с помощью облака Cloud.ru Evolution

Новосибирский государственный университет — пример эффективной интеграции образовательного процесса и научной деятельности. На базе механико-математического факультета НГУ работает лаборатория прикладных цифровых технологий, в которой проводят разработки на базе искусственного интеллекта.

Один из проектов лаборатории прикладных цифровых технологий — умный чат-бот в Telegram на базе больших языковых моделей. На сайте университета есть интеллектуальная база знаний, с помощью которой можно найти информацию или ответ на вопрос. Цель бота — упростить этот процесс и сократить поиск до нескольких секунд. Чат-бот поможет решить сразу несколько задач университета:

• привлечь абитуриентов — все, кто интересуется университетом, смогут быстро находить ответы на вопросы по поводу поступления, обучения, кампуса и т. д.;
• разгрузить службу поддержки — сотрудники поддержки смогут оперативно находить ответы на вопросы и обрабатывать заявки, которые поступают от студентов и коллег (например, как изменить пароль от личного кабинета, получить доступ к почте и т. п.);
• упростить поиск изображений по внутренней базе знаний — сотрудники смогут быстрее находить нужные фотографии, чтобы использовать их для постов в социальных сетях университета.

Сотрудники лаборатории планировали разместить решение, протестировать его, показать демоверсию внутренним заказчикам, а затем уже выпустить сервис в открытое пользование. Нужны были вычислительные ресурсы с возможностью масштабирования и непрерывной работы. В итоге для решения этой задачи НГУ выбрали облачные ресурсы провайдера Cloud.ru.

Сотрудники НГУ пробовали работать с разными провайдерами, но ни одна из предложенных схем работы не подошла университету. При этом схема оплаты и условия договора, которые предложили в Cloud.ru, полностью соответствовали требованиям образовательной организации. Также сотрудникам НГУ понравились:

• индивидуальный подход — взаимодействие с менеджером и процесс подбора, настройки и согласования прошли очень гладко и оперативно;
• отсутствие сбоев и непрерывная работа на этапе тестирования решения;
• удобные настройки и администрирование в консоли.
Нам было важно, чтобы работа в консоли была простой и удобной — мы занимаемся проектом чисто научной командой и не могли выделить отдельного технического специалиста, который взял бы на себя настройку сложной инфраструктуры. Роман Дерунец разработчик-исследователь

Сотрудники НГУ самостоятельно развернули виртуальную машину с нужными параметрами, подключились к ней, настроили окружение и затем перенесли проект и развернули его. Для размещения выбрали виртуальную машину с GPU 4 vCPU/64 ГБ RAM/1 GPU V100 на облачной платформе Cloud.ru Evolution, которая идеально подходит для задач машинного обучения, искусственного интеллекта и обработки трехмерной графики. Также она позволяет масштабироваться по мере необходимости и эффективно использовать ресурсы — по модели pay-as-you-go.

Также для защиты облачной инфраструктуры команда университета использует сервис Evolution Security Groups, который представляет набор правил для управления доступом к облачным ресурсам, чтобы контролировать входящий и исходящий трафик виртуальных машин.

Решение уже показали внутренним заказчикам в режиме демоверсии. Коллегам всё очень понравилось, поэтому после небольших доработок бота покажут уже на широкую аудиторию.

НГУ планирует продолжить сотрудничество с Cloud.ru и в будущем использовать облачные ресурсы для реализации еще нескольких проектов.

В планах сделать искусственного семинариста, который будет помогать действующим студентам в конкретной предметной области, отвечать на вопросы по точечным и узкоспециализированным темам. Еще университет интересует мультимодальная модерация или копирайтинг данных — этот проект также удобно будет развернуть на мощностях Cloud.ru.