В новом выпуске ML News ведущий канала Янник Килчер разбирает ключевые события индустрии искусственного интеллекта: от многомиллионных инвестиций в стартапы «бывших сотрудников OpenAI» до скандалов в научной среде и археологических находок в истории программирования. В центре внимания — проект Anthropic, проблемы интерпретируемости моделей для бизнеса и неожиданное обнаружение исходного кода первого в мире чат-бота.
🚀 Anthropic: новый игрок с инвестициями в $124 млн 0:42
Стартап Anthropic, основанный выходцами из OpenAI Дарио Амодеи (Dario Amodei) и его сестрой Даниэлой Амодеи (Daniela Amodei), привлёк 124 миллиона долларов в рамках раунда серии А . Инвестиционный раунд возглавил сооснователь Skype Яан Таллинн (Jaan Tallinn), также в нем приняли участие экс-гендиректор Google Эрик Шмидт (Eric Schmidt) и сооснователь Facebook Дастин Московиц (Dustin Moskovitz) .
Основные направления работы Anthropic:
- Создание надежных (reliable), интерпретируемых (interpretable) и управляемых (steerable) систем ИИ.
- Исследование ИИ как систематической науки.
- Разработка инструментов для измерения прогресса на пути к общему искусственному интеллекту (AGI).
Янник Килчер отмечает поразительное сходство риторики Anthropic с ранними манифестами OpenAI, где также подчеркивалось стремление к равному распределению выгод от ИИ . Однако он указывает на важное отличие: Anthropic не является некоммерческой организацией . По мнению ведущего, инвесторы такого уровня ожидают возврата своих вложений, поэтому в будущем проект неизбежно превратится в прибыльное коммерческое предприятие . При этом он выражает надежду, что если компания выпустит API, он будет открыт для всех .
📉 Руководители и «черный ящик» ИИ 3:20
Новый опрос, проведенный компаниями FICO и Corinium среди ста руководителей высшего звена (C-level) в области аналитики и данных, показал тревожную статистику: 65% руководителей не могут объяснить, как их ИИ-модели принимают решения или строят прогнозы .
Килчер относится к этим данным с долей иронии. Он утверждает, что топ-менеджеры зачастую не понимают даже логику работы электронных таблиц Excel, и им это не обязательно нужно для управления . Тем не менее, он признает, что в индустрии растет запрос на прозрачность алгоритмов, так как непонимание механизмов работы ИИ вызывает опасения у общественности и регуляторов .
📱 DeepMind открывает Android для обучения роботов 4:28
Компания DeepMind представила AndroidEnv — среду обучения для агентов на базе операционной системы Android . Инструмент построен на базе эмулятора Android и предоставляет унифицированные интерфейсы для задач обучения с подкреплением (RL).
Преимущества новой среды:
- Многозадачность: агент может переключаться между различными приложениями.
- Восприятие: ИИ должен анализировать реальное изображение экрана, а не упрощенные данные.
- Жесты: возможность обучения сложным взаимодействиям, таким как свайпы и касания .
По словам ведущего, AndroidEnv — это важный мостик между «игрушечными» тренировочными средами и реальной робототехникой . В отличие от физических роботов, систему в эмуляторе легко перезапустить. Среда доступна на GitHub и включает задачи в браузере, картах и играх . Забавный нюанс: хотя большая часть среды открыта, интеграция популярной игры Battle of Polytopia вызвала у Янника подозрения в скрытой рекламе .
🕵️ «Кольца сговора» в научной среде 6:14
Профессор Майкл Литтман (Michael L. Littman) опубликовал статью в Communications of the ACM, в которой предупреждает о существовании «колец сговора» (collusion rings), угрожающих честности научных исследований в области компьютерных наук .
Механика сговора выглядит следующим образом:
- Группа исследователей тайно договаривается.
- Участники специально запрашивают (bid) на рецензирование работы друг друга.
- Они пишут положительные отзывы на статьи своих союзников, независимо от их реального качества .
- Участники лоббируют принятие статей перед председателями секций конференций .
Янник Килчер подтверждает наличие подобных проблем, отмечая, что сочетание анонимности рецензирования и колоссального давления на ученых (необходимость публиковаться любой ценой) неизбежно ведет к «теневым практикам» . Литтман утверждает, что такие кольца сговора уже обнаружены на одной из крупнейших конференций по машинному обучению, хотя и не называет её имени .
📜 Археология ИИ: найден код ELIZA 7:34
Историческое событие в мире программирования: в архивах MIT был обнаружен оригинальный исходный код программы ELIZA, созданной Джозефом Вайценбаумом в середине 1960-х годов . Программа имитировала диалог с психотерапевтом и стала первым случаем в истории, когда люди начали приписывать машине человеческие качества.
Технические детали находки:
- Код написан на языке MAD-SLIP .
- Обнаруженный артефакт — это скан бумажной папки с распечатками кода, а не готовый репозиторий .
- Наиболее известная часть кода — скрипт DOCTOR, реализующий принципы «роджерианской терапии» .
Килчер поясняет, что работа ELIZA основана на простом сопоставлении с образцом (pattern matching) и регулярных выражениях . Она берет фразы пользователя и подставляет их в готовые шаблоны ответов. Например, на фразу «Я грустный» бот отвечает вопросом «Вы пришли ко мне, потому что вы грустный?» . Ведущий отмечает хрупкость этой системы: как только пользователь выходит за рамки шаблона, осмысленность диалога мгновенно теряется .
💰 OpenAI инвестирует в будущее 10:41
В завершение выпуска стало известно, что OpenAI запускает собственный фонд на 100 миллионов долларов для поддержки стартапов на ранних стадиях . Компания планирует инвестировать в небольшое число проектов, которые могут оказать «глубокое позитивное влияние» на человечество. Приоритетными областями названы здравоохранение, изменение климата и образование .
