Гэри Маркус
30 цитат из наших статей · нажмите, чтобы открыть статью-источник
Почетный профессор Нью-Йоркского университета, специалист по ИИ
Существует реальный риск своего рода технической технократии в сочетании с олигархией, где небольшое количество компаний влияет на убеждения людей.
Эти системы — почти как поддельные люди, и мы честно не понимаем, каковы последствия этого.
Глубокое обучение — это лучшая лестница, но лучшая лестница не обязательно доставит вас на Луну.
Я никогда не видел, чтобы эксперимент терпел неудачу столько раз при таких огромных затратах, как гипотеза о том, что AGI можно создать, просто добавляя данные и вычисления.
Мы можем получить крупнейшую в мире компанию по слежке под видом некоммерческой организации под названием OpenAI.
Мы построили машины, которые как быки в посудной лавке — мощные, безрассудные и трудные в управлении.
Человек всегда строит внутреннюю модель окружающего мира.
GPT-3 — это магический трюк, который создает иллюзию понимания физики, психологии и так далее.
Мое мнение таково, что это будет выглядеть ошибкой в глазах истории. Это действительно круто и весело, это впечатляющий кусок инженерии, но на самом деле это отвлечение от того, что мы все хотим
AGI должен быть как минимум не хуже человека в большинстве задач. Я не буду удовлетворен AGI, который не может совершить легальный ход в шахматах.
Если вы исключите загрязнение данных, производительность на новых задачах окажется плачевной. Для программирования как части AGI это критически важно.
Человеческие дети — это живое доказательство эффективности данных, до которой ИИ еще расти и расти.
Тогда как специализированные системы вроде AlphaFold работают отлично, универсальные LLM до сих пор совершают нелегальные ходы в шахматах.
Если вы уберете систему от типичной задачи, она станет еще хуже. У эксперта-человека не возникнет проблем с вариациями правил, а у ИИ они возникают постоянно.
ИИ всё ещё сталкиваются с проблемой «ученика чародея»: они не совсем соответствуют тому, что мы от них хотим.
Люди — это доказательство существования невероятной эффективности данных, и мы должны быть способны достичь этого уровня в машинах.
Никто не имеет ни малейшего представления о том, как в обобщенном виде заставить машину распознать вред или справедливость.
Интеллект, который есть чувствительность к абстрактным аналогиям — это буквально все, что есть.
Все языки программирования — это просто логика.
Медленно — это быстро, а быстро — это медленно. Поле идет быстрым путем... но в долгосрочной перспективе это не дает глубоких ответов.
Мы движемся к тому, чтобы социализировать последствия и приватизировать прибыль.
Я думаю, что киллер-фичей для ИИ станет слежка. Продажа личной информации всегда была прибыльным бизнесом.
LLM — это статистический автокомплит на стероидах, который обучен выглядеть как человек, но он никогда не рассуждает как человек.
В калькуляторе вы вводите 3 умножить на 17 и получаете 51 со стопроцентной уверенностью. С большой языковой моделью вы никогда не знаете, что получите.
Истинным киллер-приложением для этих технологий станет тотальная слежка.
Кому вы поверите: мне или своим собственным глазам? Эмпирически мы видим, что эти системы по-прежнему спотыкаются на элементарной экстраполяции.
Мы вложили порядка 50 миллиардов долларов на допущении, что масштабирование приведет нас к цели. Если нет — придется вернуться к чертежной доске.
Современный искусственный интеллект построен исключительно на распознавании паттернов, а не на понимании.
Вы не давали согласия на жизнь в обществе, где ChatGPT может масштабно формировать и менять политические взгляды людей, но это уже происходит.
Мы имеем дело с быстроразвивающимся явлением, и Конгресс просто не приспособлен для оперативного контроля.