«Использование собственных нейросетей защитит компанию от утечек»: что для этого нужно?

Почти половина представителей малого и среднего бизнеса в России считает нейросети полезными для своей работы и почти треть руководителей использует инструменты на основе ИИ. Таковы результаты исследования аналитического центра НАФИ, проведенного в марте этого года.

Представители уральского бизнеса подтверждают: нейросети действительно стали использовать чаще. При этом компаниям интересно работать не только с общедоступными решениями, но и иметь собственные — для того чтобы обеспечить конфиденциальность информации. Чтобы развернуть нейросети, необходимо мощное оборудование — например это могут быть виртуальные серверы VDS с видеокартами, аренду которых недавно запустили в NetAngels.

Директор компании Антон Халиков рассказал, как развернуть собственные нейросети и для решения каких задач их использовать.

Почему популярность ИИ растет

— В середине 2022 г., когда был запущен ChatGPT, нейросети казались инструментом, который доступен только IT-компаниям и представителям науки. Тогда одни говорили, что это полезное решение, способное экономить время, другие — что это просто хайп, который со временем пройдет. Сейчас, по прошествии двух лет, мы видим, что компании, присутствующие в онлайне, используют большие языковые модели и оказываются в выигрыше.

SMM. Прежде всего нейросети облегчают работу тех, кто отвечает за присутствие компании в интернете. Сегодня такие специалисты активно используют ИИ для написания текстов и контент-планов, создания картинок и видео. На YouTube можно найти сотни тысяч каналов, где контент генерируется нейросетями, а люди его только контролируют. Чтобы автоматизировать этот процесс, можно создать бота, который будет вести за вас соцсети или регулярно писать тексты на сайт на определенную тематику — такие боты сканируют новости в открытом доступе, компилируют их и приводят к определенному формату текста.

Работа с данными. В каждой компании есть сотрудники, которые изучают большие объемы информации — это могут быть отраслевые отчеты, техническая документация, нормативные акты, научные статьи. Иногда эти документы занимают десятки и даже сотни страниц, а язык изложения далек от того, что вы используете в обычной жизни. Нейросеть способна за несколько секунд сделать пересказ или краткую выжимку документа, структурировать его, сохранив время и нервные клетки. Для этого достаточно загрузить в нее документ и сформулировать задачу.

Эти же инструменты позволяют проанализировать коммуникацию сотрудников call-центра или службы поддержки с клиентами. Я уже рассказывал о том, как эта работа выстроена у нас в NetAngels. Мы запустили систему из нескольких нейросетей: первая переводит аудиозапись разговора в текст, вторая сокращает его до трех-четырех предложений. С помощью таких кратких содержаний мы анализируем, с какими проблемами чаще всего обращаются к нам клиенты и насколько эффективно сработали наши операторы.

Конкурентный анализ. Нейросети помогают следить за новостями компаний, с которыми вы конкурируете. Они способны обрабатывать данные об их продуктах, ценах и маркетинговых стратегиях, анализировать их и выявлять общие тенденции. Раньше за выполнение этих задач в компаниях могли отвечать несколько сотрудников с высокой зарплатой, а сегодня эту работу можно автоматизировать и собрать информацию в течение часа.

Коммуникация с клиентами и партнерами. Допустим, вы готовитесь к встрече с руководителем какой-то компании и хотите обратиться к этому человеку персонализированно. Но вы его совсем не знаете. С помощью инструментов на основе ИИ можно проанализировать информацию в соцсетях, собрать какие-то факты из его биографии и найти дополнительные точки соприкосновения.

Также с помощью нейросетей можно создать базу данных и бота для того, чтобы автоматизировать общение с клиентами. Например, собрать несколько сотен часто задаваемых вопросов и подготовить стандартные ответы. В этом случае удастся разгрузить сотрудников колл-центра или службы поддержки — часть проблем клиента будет решаться без их участия.

Что тормозит рост

Сегодня вполне реально найти нейросеть для решения каждой из этих задач. Большинство стремится использовать самую популярную и мощную — Chat GPT. Напомню, в России она, как и многие другие большие языковые модели, официально недоступна из-за санкций. Это создает определенные сложности для специалистов.

Кроме этого, сторонние нейросети опасно использовать для постоянной работы, особенно с коммерческий информацией. Дело в том, что они активно используют для своего обучения данные не только с сайтов и социальных сетей, но и из ваших запросов. Если внимательно читать пользовательское соглашение, вы увидите, что информация, которую вы доверяете модели, может быть использована для ее обучения.

Простой пример: допустим, сотрудник вашей компании использовал нейросеть для того, чтобы сократить время на ознакомление с внутренними документами — отправил их в модель и попросил вычленить самое важное. А спустя некоторое время вы столкнулись с тем, что нейросеть стала отвечать на вопросы оборотами из ваших документов, и, возможно, даже упоминая ваши ноу-хау.

Чтобы обеспечить конфиденциальность данных, можно развернуть нейросеть самостоятельно. Казалось бы, создание собственных решений на базе ИИ — задача, которую небольшая или средняя компания самостоятельно решить не сможет, поскольку обычно в ее штате нет IT-специалистов с необходимыми навыками.

Однако сегодня доступно множество готовых решений. Например, это известные open-source проекты компаний Meta (организация признана экстремистской и запрещена на территории РФ), Mistral AI, Cohere AI. В открытом доступе можно найти десятки тысяч различных нейросетей для решения конкретных задач. Например, ollama.com/download позволяет буквально в пару кликов скачать и запустить у себя любую из перечисленных (llama3 от Meta (организация признана экстремистской и запрещена на территории РФ), mistral/mixtral от mistral.ai, command-r/command-r-plus/aya от Cohere AI, phi3 от Microsoft и тп) больших языковых моделей, если оборудование потянет системные требования. Так что с этой задачей без труда справится IT-специалист со средними навыками.

Но главное, для успешного запуска нейросетей нужны серьезные вычислительные мощности, которые смогут справиться с такой нагрузкой. Покупка необходимого оборудования может подорвать бюджет компании на сотни тысяч рублей. Можно не тратиться на покупку дорогостоящего оборудования, а взять в аренду облачный сервер и развернуть нейронную сеть на нем.

Развернув решение на собственной инфраструктуре, вы сможете работать с нейросетями без риска утечки данных. А также адаптируете решения под задачи своей компании — в этом случае искусственный интеллект принесет вам куда большую пользу.