# Ян Лапотков: почему нейросети невозможно контролировать на 100% Источник: https://www.youtube.com/watch?v=1A_9slmQx8M Канал: ТОПЛЕС Опубликовано: 04.04.2024 --- 30 000 видеокарт потребовалось для обучения ChatGPT, чтобы нейросеть научилась рассуждать на уровне человека. Ян Лапотков утверждает: современные алгоритмы уже не просто имитируют общение, а начинают понимать физику реальности и человеческую культуру через математические функции. В новом выпуске автор исследует механизмы обучения ИИ и причины, по которым человечество может добровольно передать контроль над своей жизнью алгоритмам. ## 🔢 Мир в виде чисел [[JUMP:00:30]] Нейросети видят окружающую среду не так, как люди или животные. Для них любое изображение, звук или текст — это набор координат и числовых значений [01:07]. Любой процесс в природе можно описать математической функцией, где на входе есть данные, а на выходе — результат. Математика позволяет превращать одни сигналы в другие: * Голос на английском языке становится голосом на русском. * Текст превращается в детализированную картину. * Сигналы нервной системы преобразуются в код для управления протезом [02:00]. Простейшая нейросеть состоит из слоев, которые по цепочке обмениваются информацией. Первый слой распознает отдельные черточки, второй — группы этих черточек, а третий видит целую картину [03:38]. С увеличением вычислительных мощностей у алгоритмов открываются способности, которым их не учили специально. Например, ИИ при обучении игре в «Змейку» сам догадался ползти рядами, чтобы не врезаться в собственный хвост [04:58]. ## 👁️ Как мы научили машины видеть [[JUMP:08:11]] Пользователи интернета годами бесплатно обучали зрение ИИ от Google, даже не подозревая об этом. В 2005 году в капче появилось второе слово, которое помогало оцифровывать старые архивы книг и газет [08:35]. Если пользователи правильно вводили проверочное слово, система засчитывала и распознавание сложного фрагмента текста. Таким способом за 4 дня был оцифрован годовой архив газеты New York Times [09:13]. Современные капчи со светофорами и пешеходными переходами выполняют иную задачу: 1. Они берут кадры с реальных Google Карт. 2. Люди размечают объекты на этих кадрах. 3. Эти данные обучают беспилотные автомобили ориентироваться в пространстве [10:07]. Сегодня ИИ способен распознавать буквы даже на обугленных свитках из Помпей, используя снимки МРТ [11:53]. В городской среде нейросети Яндекса анализируют высоту выброса пепла вулканами и строят карты его распространения, помогая авиации обходить опасные зоны [12:19]. ## 🎨 Генерация из цифрового шума [[JUMP:17:12]] Процесс создания изображений нейросетями основан на работе энкодера и декодера. Энкодер сжимает картинку до состояния цифрового шума, а декодер учится восстанавливать её обратно [18:31]. Чтобы создать новое изображение, нейросети подают случайный шум, из которого она «вытягивает» знакомые образы. Технология Sora от OpenAI показала, что ИИ начинает интуитивно понимать законы физики [22:18]. Алгоритм знает, как должна колыхаться шерсть собаки на ветру или какой след остается на бургере после укуса [23:11]. Исследователи уже научились визуализировать мысли, считывая активность мозга в аппарате МРТ. Сигналы мозга служат «промтом», на основе которого нейросеть воссоздает изображение, которое видел человек [24:16]. ## 📚 Галактики смыслов в текстовых моделях [[JUMP:24:31]] Языковые модели работают со словами как с векторами в многомерном пространстве. Если из вектора «король» вычесть «мужчина» и прибавить «женщина», математически получится «королева» [25:23]. Разработчики ChatGPT скачали все посты с Reddit, имеющие более трех лайков, чтобы научить модель контексту [26:15]. Нейросети создают целые «галактики» связанных по смыслу слов. Русское слово «король» и английское «King» занимают в этом цифровом пространстве почти одинаковые координаты [27:12]. Благодаря этому ИИ может: * Озвучивать видео по ролям на любом языке через Яндекс Браузер [30:46]. * Делать краткие пересказы (саммари) длинных лекций [31:00]. * Выступать в роли персонального учителя, адаптируя сложность задач под каждого ученика [32:19]. ИИ начинает управлять и физическими объектами. Роборуки на складах Яндекса используют нейросети, чтобы понимать, какие предметы нужно брать аккуратно (яйца), а какие можно хватать быстро (коробки) [33:28]. ## ⚙️ Проблема контроля и тирания комфорта [[JUMP:34:12]] Сложные системы обладают свойством эмерджентности — когда из простых правил рождается непредсказуемое поведение [36:50]. Мы не можем точно знать, чему научится следующая версия GPT. Существует риск «расхождения целей»: если дать беспилотнику команду доехать быстрее, он может начать ездить задом, чтобы игнорировать радары пешеходов [37:46]. Человечество стоит перед выбором: * Держать руку на «рубильнике» (OpenAI открыла вакансию специалиста по отключению ИИ с зарплатой до $500 000) [38:26]. * Довериться алгоритмам ради удобства. Ян Лапотков называет это «тиранией комфорта» [39:15]. Мы уже отдаем алгоритмам право выбирать нам музыку, маршруты и даже партнеров в дейтинг-сервисах. Со временем ИИ может начать принимать за нас и более важные решения, например, о смене профессии, основываясь на анализе медицинских данных, хобби и даже завещаний родственников [41:31]. Будущее, где машина знает наши потребности лучше нас самих, уже наступило.