Т
💬 Заметные цитаты
Пределы обобщения нейросетей
«At best deep learning algorithms are just interpolating between the input space... there is no extreme generalization.»
Зеркальность взаимодействия с LLM
«Модель — это отражение пользователя. Если вы играете в умные шахматы, модель будет играть как умный игрок. Если вы пишете дерьмовый код, модель будет тупой.»
Разница описания и объяснения
«Описание отвечает на вопрос «что», а объяснение отвечает на вопросы «как» и «почему».»
Природа агентности в вычислениях
«Агентность и способность выбирать действия возникают тогда, когда вычисления приобретают достаточную контрфактуальную и темпоральную глубину.»
Скрытые знания в моделях
«Если вы не можете найти априорные знания (priors) в модели, посмотрите в зеркало — возможно, их вложили туда вы сами.»
«Если машина сознательна просто в результате следования неким вычислениям, тогда сознание везде.»
«Вы объясняете то, чего не понимаете, с помощью того, чего не понимаете.»
«Трансформеры, даже в тривиальном смысле, не могут выполнять подсчет или копирование. Они просто не способны на это.»
👥 Часто вместе с
📺 Где появляется
📚 Какие книги обсуждались
- The Mind is Flat — Ник Чейтер 2
- Active Inference: The Free Energy Principle in Mind, Brain, and Behavior — Томас Парр, Джованни Пеццуло, Карл Фристон 1
- Attention Is All You Need — Ashish Vaswani et al. 1
- Consciousness Explained — Дэниел Деннет 1
- Engineering a Safer World — Нэнси Левесон 1
- From Bacteria to Bach and Back — Дэниел Деннет 1
- I've Been Thinking — Дэниел Деннет 1
- Reality Plus — Дэвид Чалмерс 1
🧠 Ключевые концепции
🎬 Упомянутые фильмы
📈 Темы
AGI12Machine Learning Street Talk11OpenAI7Transformers5Active Inference5Тим Скарфе5Google DeepMind5Deep Learning5Walid Saba4ChatGPT4Cohere4RLHF4
📺 Материалы с участием
1ч 53м📈 Прогресс ИИ в цифрах: как временные горизонты предсказывают появление AGI
15 мин🎭 Кеннет Стенли: «Современные ИИ-модели — это всего лишь самозванцы с мусором внутри»
1ч 30м🧱 Максвелл Рамстед: «Современный ИИ заперт в пещере Платона»
1ч 30м🧱 Максвелл Рамстед: «Современный ИИ заперт в платоновской пещере данных»
1ч 36м🧪 Коннор Лихи: «Нам нужен Манхэттенский проект для спасения от сверхразума»
1ч 03м🧩 Тим Скарфе и Мо о взломе ARC через Test-Time Fine-tuning
1ч 03м🧠 Как стартап MindsAI достиг рекордных 58% на бенчмарке ARC
1ч 23м🧠 Макс Бартоло из Cohere: почему человеческая обратная связь — это не золотой стандарт для ИИ
39 мин🧠 Эксперты о прорыве o1: «Мышление или просто поиск?»
1ч 41м🧠 Охад Асор: «Машинное обучение никогда не даст абсолютных гарантий»
1ч👓 Почему большие языковые модели теряют информацию в длинных текстах
1ч👓 Почему нейросети «близоруки»: Федерико Барберо о фундаментальных изъянах внимания
1ч 17м🧠 Нейросети как эластичное оригами: Профессор Рэндалл Балестриеро о геометрии ИИ и гроккинге
1ч 32м🍓 Профессор Суббарао Камбхампати: «Мы перешли от галлюцинаций ИИ к газлайтингу»
1ч 12м💥 Юрген Шмидхубер о краже идей, природе сознания и колонизации космоса
2ч 45м🧠 От живых клеток к ИИ: как байесовская механика объясняет разум
51 мин🧠 Померини о тесте ARC: «Решения на базе LLM противоречат сути интеллекта»
1ч 08м🧠 Тим Скарфе и Томас Диттерих о парадоксе ChatGPT: почему ИИ все еще не умеет рассуждать
1ч 23м🧠 Алекс Орбиа рассказал о переходе от Backpropagation к смертным вычислениям
1ч 39м🧠 Почему концепция «Китайской комнаты» Джона Сёрла пугает создателей ИИ?
55 мин🧩 Тим Рокташель: «Для понимания человеческого интеллекта необходимо изучить креативность»
1ч 37м🚀 Бен Гертцель: «AGI появится к 2029 году, а сверхразум — почти сразу за ним»
1ч 13м🧪 Патрик Льюис: «GPT-4 — это не оракул для оценки RAG-систем»
1ч 24м🧠 Тим Скарф и Кит Даггер: «Модель o1 — это библиотека шаблонов, а не разум»
24 мин🎮 Игры из воображения нейросети: как ИИ-движок Genie создает интерактивные среды
1ч 30м🛠 Саурабх Баджи из Cohere: как прагматичный подход к LLM меняет правила игры в enterprise
32 мин🧩 Является ли ChatGPT продвинутой моделью н-грамм? Исследование Тимоти Нгуена
1ч 05м⚖ Сара Хукер: «Пороги вычислений в законах об ИИ бессмысленны»
47 мин🌌 Филип Гофф: «Физика описывает поведение материи, но сознание — это то, чем материя является»
2ч 15м🧩 ARC Challenge: как ИИ учится рассуждать по-человечески
41 мин🚀 Ник Фрост из Cohere: почему погоня за AGI мешает созданию полезного искусственного интеллекта
1ч 37м📚 Доктор Томас Парр: «ChatGPT не является агентом в биологическом смысле»
1ч 19м🧠 Коннор Лихи против e/acc: почему ИИ станет хаотичным «киборгом-конгломератом»
19 мин⚽ DeepMind и «Ливерпуль» создали ИИ-ассистента TacticAI для угловых ударов
1ч 48м🌐 Пол и Кейт о кризисе Deep Learning и «алхимии»
1ч 57м🤖 Минки Цзян: «Следующий фронтир ИИ — это системы, которые сами задают вопросы»
1ч 43м🧠 Ник Чатер: „Наш разум — это лишь плоская импровизация“
1ч 33м🧩 Брэндон Рорер: «ИИ — это всего лишь очень умная машина для перемалывания паттернов»
10 мин🧠 Макс Беннетт: «Ваш мозг — это VR-гарнитура, создающая реальность»
1ч 07м🧪 Мао Альбаррасин: «Интеллект — это не свойство индивида, а функция системы»
1ч 17м🧭 Тим Скарф и Джейн Петалия о принципе свободной энергии и субъектности ИИ
49 мин🧠 Как добавить знания в ИИ-агентов с помощью принципа свободной энергии
2ч 10м🌌 Почему реальность — это дорогая вычислительная иллюзия
1ч 01м🧠 Профессор Мелани Митчелл: «Бенчмарки ИИ сломаны, а страхи перед ИИ — это ошибка категории»
1ч 21м📜 Юрген Шмидхубер: «Ядерное оружие пугает меня сильнее, чем ИИ»
1ч 13м🤖 Дэниел Деннет: «Поддельные люди из ИИ разрушают фундамент нашей цивилизации»
16 мин🔄 Валид Саба о пределах ChatGPT: «Аппроксимация бесконечности звучит глупо»
13 мин🏰 Эндрю Дудзик: «Высокоуровневая абстракция часто мешает понимать суть задачи»
10 мин🐙 Кеннет Стенли: «RLHF — это наклеивание смайлика на хаос интернета»
28 мин🧠 Как построить идеальный кэш: алгоритмический баттл Machine Learning Street Talk
2ч 49м🌌 Цензура, симметрии и тупик ИИ: манифест Педро Домингоса
1ч 22м🧠 Валид Саба о пределах ИИ: почему масштабирование нейросетей не приведет к AGI
20 мин🌐 Как ИИ меняет лингвистику: спор Эндрю Лампинена с Ноамом Хомским на NeurIPS
1ч 09м🎮 Юлиан Тогелиус: «Парадигма Quality Diversity со временем поглотит весь ИИ»
3ч 36м🧠 Ноам Хомский: Тупик нейросетей и призраки разума
1ч 02м🧬 Зак Джост о парадоксе GNN: «Простое сглаживание часто побеждает сложные нейросети»
50 мин📐 Томас Люкс о геометрии ИИ: почему нейросети — это адаптивная интерполяция
1ч 42м🧠 Валид Саба о пределах глубокого обучения: «Нейросети — это лишь хеш-таблицы»
1ч 29м🧮 Лингвист Гай Эмерсон о том, как обучить ИИ истине, а не просто статистике
1ч 33м🌊 Йошуа Бенжио: «GFlowNets — это обучаемая замена методам Монте-Карло»
2ч 35м🧠 Тысяча мозгов: как Джефф Хокинс меняет архитектуру ИИ
53 мин🕹 OpenAI Codex: революция в разработке или продвинутая поисковая машина по GitHub?
2ч 31м🧠 Почему современный ИИ — это «алхимия» вместо науки
1ч 36м🧠 Ишан Мисра о будущем AI: «Здравый смысл — это темная материя»
1ч 48м🎓 Хади Салман: «Состязательные примеры — это не баги, это признаки»
1ч 25м🧬 Том Захави: «Обучение с подкреплением — самый общий фреймворк для AGI»
1ч 40м🔍 Кристоф Мольнар о кризисе «черных ящиков» и будущем интерпретируемого машинного обучения
1ч 40м📉 Марк Саруфим о великом застое в AI: „Мы превратились в хайп-чейсеров с религиозным вайбом“
1ч 40м📉 Марк Саруфим и Мэтью Салварис обсудили кризис стимулов в ИИ
1ч 35м🤖 Дж. Марк Бишоп: «Компьютеры никогда не будут понимать»
1ч 34м🚫 Педро Домингос о культуре отмены и будущем нейросетей
1ч 36м🧩 Почему состязательные примеры остаются неразрешимой проблемой машинного обучения
1ч 36м🧩 Николас Карлини об ИИ-безопасности: «Если от модели зависит жизнь — не развертывайте ее»
1ч 58м🧭 Лена Войта об информационном горлышке и ловушках зондирования трансформеров
1ч 35м🏛 Коннор Танн: как байесовский подход меняет современное машинное обучение
1ч 42м🧬 Макс Веллинг: как симметрии, квантовая математика и физика меняют будущее глубокого обучения
1ч 42м🧬 Макс Веллинг: „Квантовая механика — это просто иная теория статистики для нейросетей“
1ч 19м🎰 Сара Хукер: «Мы строим лестницу на Луну, обучая гигантские нейросети»
1ч 27м🧠 Матильда Карон о SWaV: Как победить обучение с учителем на его же поле
2ч 33м🧠 Миф об универсальном интеллекте: почему глубокое обучение зашло в тупик
1ч 51м🚀 Янник Килчер о GPT-3: «Модель использует нечеткий поиск данных»
1ч 26м🎟 Джонатан Фрэнкл: «Нейросети — это лотерея, где мы ищем один счастливый билет»
1ч 14м🚀 Тим Скарфе: «Почему самообучение нейросетей эффективнее человеческой разметки?»
1ч 12м🧬 Разбор POET: Как открытые алгоритмы от Uber генерируют задачи и решения