Anthropic

Anthropic — компания в сфере искусственного интеллекта, основанная в 2021 году бывшими сотрудниками OpenAI, в том числе братом и сестрой Дарио и Даниэлой Амодеи. Дарио занимает пост генерального директора, а Даниэла — президента. Компания базируется в Сан-Франциско и определяет свою миссию как создание надежных, интерпретируемых и управляемых систем ИИ. До основания Anthropic Дарио занимался исследованиями ИИ в OpenAI, где Даниэла также занимала руководящую должность в области безопасности и политики.

В марте 2023 года Anthropic представила Claude — своего диалогового ИИ-ассистента. Затем, в июле 2023 года, компания выпустила Claude 2, а в марте 2024 года — семейство Claude 3. В него вошли модели Haiku, Sonnet и Opus, различающиеся по скорости и возможностям. В июне 2024 года Anthropic выпустила Claude 3.5 Sonnet, отметив улучшения в написании кода и анализе изображений. Claude доступен через сайт, мобильные приложения и API для разработчиков; Anthropic также предоставляет организациям доступ к моделям для использования в рабочих процессах.

Важное направление исследований Anthropic — Constitutional AI, метод, описанный в статье 2022 года. Вместо того чтобы полагаться исключительно на оценки людей, этот подход использует письменный свод принципов, которыми модель руководствуется при критическом анализе и пересмотре ответов. Anthropic публиковала исследования интерпретируемости, в том числе работы о том, как понятия представлены внутри нейронных сетей. Ее политика ответственного масштабирования, впервые опубликованная в 2023 году, предусматривает меры защиты, зависящие от результатов оценки все более мощных моделей. Эти проекты связывают разработку продуктов компании с заявленной обеспокоенностью рисками злоупотребления ИИ и потери контроля над ним.

Anthropic привлекла значительные инвестиции от Amazon и Google. В 2023 году Amazon объявила о стратегическом партнерстве с Anthropic, включая планы инвестировать до 4 млрд долларов и предоставить доступ к моделям Anthropic через Amazon Bedrock. Anthropic согласилась использовать Amazon Web Services в качестве основного поставщика облачных услуг. Ее модели также доступны через платформу Vertex AI компании Google Cloud. Благодаря этим договоренностям Claude появился в облачных сервисах, которыми пользуются компании, создающие приложения на основе моделей.

В октябре 2024 года Anthropic представила бета-версию функции взаимодействия Claude 3.5 Sonnet с компьютером: разработчики получили возможность поручать модели действия в экранных интерфейсах — перемещать курсор, нажимать кнопки и вводить текст. Anthropic предупредила, что функция экспериментальная и может допускать ошибки. Этот выпуск показал переход от ответов на запросы к выполнению многоэтапных задач в программах, при этом вопросы безопасности остались в центре внимания компании.