Google обновила Gemma безопасными моделями ИИ

На днях Google объявила о запуске трех новых моделей искусственного интеллекта: Gemma 2 2B, ShieldGemma и Gemma Scope. Эти модели отличаются от других повышенной безопасностью, компактностью и прозрачностью. Они являются частью серии Gemma 2, представленной в июне этого года. Отличие семейства Gemma от Gemini заключается в ее доступности для разработчиков. Это позволит Google укрепить отношения с сообществом программистов. Кстати, Meta имеет подобную цель, которую реализует в своей модели Llama.

Gemma 2 2B – упрощенная модель для написания текстов, которая может работать на разных устройствах, включая ноутбуки и мобильные телефоны. Она лицензируется для исследований и коммерческого использования. Новинка совместима с библиотеками PyTorch и TensorFlow. Доступ к ней можно получить через такие платформы, как Vertex AI Model Library, Kaggle и AI Studio от Google. Воспользоваться новой моделью можно также через платформу Hugging Face. Gemma 2 2B имеет всего 2,6 миллиарда параметров. Несмотря на достаточно компактный размер, она способна конкурировать с гораздо более крупными моделями благодаря своим передовым технологиям обучения и качественным данным.

ShieldGemma состоит из набора так называемых "классификаторов безопасности", обнаруживающих нежелательный контент, включая язык ненависти или изображения сексуального характера. Этот инструмент работает на базе Gemma 2 и может использоваться для фильтрации промптов и контента, генерируемого самой моделью.

Gemma Scope позволяет разработчикам лучше понять внутренние процессы Gemma 2. Эта модель использует специализированные сети для упрощения сложных данных, делая их более легкими для анализа.

В Google утверждают, что новые открытые модели искусственного интеллекта Gemma 2 облегчат малым фирмам, исследователям, некоммерческим организациям и отдельным разработчикам использование генеративного ИИ. В то же время в компании отметили важность мониторинга этих моделей, чтобы выявить возможные риски и избежать их.