# Anthropic привлекла $124 млн, а DeepMind открыла среду для обучения ИИ на Android-приложениях Источник: https://www.youtube.com/watch?v=oxsdp--ULRo Канал: Yannic Kilcher Опубликовано: 02.06.2021 --- В новом выпуске ML News ведущий канала Янник Килчер разбирает ключевые события индустрии искусственного интеллекта: от многомиллионных инвестиций в стартапы «бывших сотрудников OpenAI» до скандалов в научной среде и археологических находок в истории программирования. В центре внимания — проект Anthropic, проблемы интерпретируемости моделей для бизнеса и неожиданное обнаружение исходного кода первого в мире чат-бота. ## 🚀 Anthropic: новый игрок с инвестициями в $124 млн [[JUMP:00:42]] Стартап Anthropic, основанный выходцами из OpenAI Дарио Амодеи (Dario Amodei) и его сестрой Даниэлой Амодеи (Daniela Amodei), привлёк 124 миллиона долларов в рамках раунда серии А [00:42]. Инвестиционный раунд возглавил сооснователь Skype Яан Таллинн (Jaan Tallinn), также в нем приняли участие экс-гендиректор Google Эрик Шмидт (Eric Schmidt) и сооснователь Facebook Дастин Московиц (Dustin Moskovitz) [01:05]. Основные направления работы Anthropic: * Создание надежных (reliable), интерпретируемых (interpretable) и управляемых (steerable) систем ИИ. * Исследование ИИ как систематической науки. * Разработка инструментов для измерения прогресса на пути к общему искусственному интеллекту (AGI). Янник Килчер отмечает поразительное сходство риторики Anthropic с ранними манифестами OpenAI, где также подчеркивалось стремление к равному распределению выгод от ИИ [01:47]. Однако он указывает на важное отличие: Anthropic не является некоммерческой организацией [02:14]. По мнению ведущего, инвесторы такого уровня ожидают возврата своих вложений, поэтому в будущем проект неизбежно превратится в прибыльное коммерческое предприятие [02:27]. При этом он выражает надежду, что если компания выпустит API, он будет открыт для всех [02:39]. ## 📉 Руководители и «черный ящик» ИИ [[JUMP:03:20]] Новый опрос, проведенный компаниями FICO и Corinium среди ста руководителей высшего звена (C-level) в области аналитики и данных, показал тревожную статистику: 65% руководителей не могут объяснить, как их ИИ-модели принимают решения или строят прогнозы [03:33]. Килчер относится к этим данным с долей иронии. Он утверждает, что топ-менеджеры зачастую не понимают даже логику работы электронных таблиц Excel, и им это не обязательно нужно для управления [04:00]. Тем не менее, он признает, что в индустрии растет запрос на прозрачность алгоритмов, так как непонимание механизмов работы ИИ вызывает опасения у общественности и регуляторов [04:15]. ## 📱 DeepMind открывает Android для обучения роботов [[JUMP:04:28]] Компания DeepMind представила AndroidEnv — среду обучения для агентов на базе операционной системы Android [04:30]. Инструмент построен на базе эмулятора Android и предоставляет унифицированные интерфейсы для задач обучения с подкреплением (RL). Преимущества новой среды: * **Многозадачность:** агент может переключаться между различными приложениями. * **Восприятие:** ИИ должен анализировать реальное изображение экрана, а не упрощенные данные. * **Жесты:** возможность обучения сложным взаимодействиям, таким как свайпы и касания [05:08]. По словам ведущего, AndroidEnv — это важный мостик между «игрушечными» тренировочными средами и реальной робототехникой [05:08]. В отличие от физических роботов, систему в эмуляторе легко перезапустить. Среда доступна на GitHub и включает задачи в браузере, картах и играх [05:33]. Забавный нюанс: хотя большая часть среды открыта, интеграция популярной игры Battle of Polytopia вызвала у Янника подозрения в скрытой рекламе [06:02]. ## 🕵️ «Кольца сговора» в научной среде [[JUMP:06:14]] Профессор Майкл Литтман (Michael L. Littman) опубликовал статью в Communications of the ACM, в которой предупреждает о существовании «колец сговора» (collusion rings), угрожающих честности научных исследований в области компьютерных наук [06:14]. Механика сговора выглядит следующим образом: 1. Группа исследователей тайно договаривается. 2. Участники специально запрашивают (bid) на рецензирование работы друг друга. 3. Они пишут положительные отзывы на статьи своих союзников, независимо от их реального качества [06:27]. 4. Участники лоббируют принятие статей перед председателями секций конференций [06:39]. Янник Килчер подтверждает наличие подобных проблем, отмечая, что сочетание анонимности рецензирования и колоссального давления на ученых (необходимость публиковаться любой ценой) неизбежно ведет к «теневым практикам» [07:17]. Литтман утверждает, что такие кольца сговора уже обнаружены на одной из крупнейших конференций по машинному обучению, хотя и не называет её имени [07:05]. ## 📜 Археология ИИ: найден код ELIZA [[JUMP:07:34]] Историческое событие в мире программирования: в архивах MIT был обнаружен оригинальный исходный код программы ELIZA, созданной Джозефом Вайценбаумом в середине 1960-х годов [07:34]. Программа имитировала диалог с психотерапевтом и стала первым случаем в истории, когда люди начали приписывать машине человеческие качества. Технические детали находки: * Код написан на языке **MAD-SLIP** [08:00]. * Обнаруженный артефакт — это скан бумажной папки с распечатками кода, а не готовый репозиторий [08:00]. * Наиболее известная часть кода — скрипт DOCTOR, реализующий принципы «роджерианской терапии» [08:13]. Килчер поясняет, что работа ELIZA основана на простом сопоставлении с образцом (pattern matching) и регулярных выражениях [09:35]. Она берет фразы пользователя и подставляет их в готовые шаблоны ответов. Например, на фразу «Я грустный» бот отвечает вопросом «Вы пришли ко мне, потому что вы грустный?» [08:53]. Ведущий отмечает хрупкость этой системы: как только пользователь выходит за рамки шаблона, осмысленность диалога мгновенно теряется [10:01]. ## 💰 OpenAI инвестирует в будущее [[JUMP:10:41]] В завершение выпуска стало известно, что OpenAI запускает собственный фонд на 100 миллионов долларов для поддержки стартапов на ранних стадиях [10:55]. Компания планирует инвестировать в небольшое число проектов, которые могут оказать «глубокое позитивное влияние» на человечество. Приоритетными областями названы здравоохранение, изменение климата и образование [11:08].