Эра ИИ-агентов и смерть приватности: чего ждать от релиза GPT-5?

Wes Roth 67,5 тыс. 14 мин 4 мин 02.05.2024
Главное

OpenAI и Meta готовятся к запуску нового поколения языковых моделей, которые обещают совершить качественный скачок в области логических рассуждений и долговременной памяти. Ведущий канала Wes Roth анализирует последние заявления Сэма Альтмана о «киллер-фиче» будущего — автономных ИИ-агентах — и рассматривает растущие риски для приватности, связанные с новыми инструментами геолокации по фото.

🚀 На пороге GPT-5: «gpt2-chatbot» и гонка моделей 0:00

По мнению автора видео, можно с уверенностью утверждать, что релиз GPT-5 (или модели следующего поколения под другим названием) близок . Процесс развертывания уже начинается. Недавнее появление загадочного чат-бота под названием gpt2-chatbot в Arena вызвала волну спекуляций: многие пользователи решили, что это тестовая версия GPT-4.5 или GPT-5 . Однако Сэм Альтман во время своего выступления в Гарвардском университете опроверг эти слухи, заявив, что таинственный бот не является GPT-4.5 .

Ситуация на рынке обостряется действиями конкурентов:

🛡️ Проблемы безопасности и государственного контроля 0:41

В прошлом году Сэм Альтман и Илон Маск согласились предоставить свои модели британскому правительству для проверки безопасности . Однако, как утверждает AISI, на практике этого не происходит: организации не получают доступ к моделям до их выхода в свет . Представители Meta объясняют это нежеланием «прыгать через обручи» в каждой отдельной юрисдикции, подчеркивая, что их приоритет — отношения с регуляторами США .

Anthropic также пока не предоставил доступ AISI, называя идею предварительного государственного тестирования «хорошей, но труднореализуемой» . В результате контролирующие органы вынуждены изучать модели уже после того, как они становятся доступны широкой публике .

🤖 ИИ-агенты: «Киллер-фича» и концепция Factorio 2:53

Сэм Альтман считает, что главной функцией (killer app) будущего ИИ станут автономные агенты — полезные помощники, действующие от имени пользователя . Вес Рот сравнивает управление такими агентами со стратегической игрой Factorio, где игрок выстраивает сложные автоматизированные системы для достижения максимального результата .

Основные характеристики будущих агентов по версии Альтмана:

⌚ Будущее «железа»: от Humane AI Pin до концептов Джони Айва 4:54

Рынок носимых устройств с ИИ пока переживает трудные времена. Устройство Humane AI Pin получило разгромные отзывы от техно-блогеров, что даже вызвало дискуссию о том, могут ли такие обзоры уничтожать компании . Сэм Альтман, по слухам, работает над секретным аппаратным проектом вместе с бывшим дизайнером Apple Джони Айвом .

Тем не менее, Альтман допускает, что для полноценного ИИ-ассистента специальное новое устройство может и не понадобиться вовсе . Он подчеркивает, что текущая модель GPT-4 скоро будет казаться нам «самым глупым инструментом», с которым мы когда-либо работали, по сравнению с грядущей AGI (общим искусственным интеллектом) .

📅 Прогнозы дат: Май станет «жарким» 6:21

На вопрос журналиста о дате выхода GPT-5 Альтман лаконично ответил: «Да» . Автор видео предполагает, что OpenAI может анонсировать новинку около 14 мая, чтобы перехватить информационную повестку у конференции Google I/O .

Инсайдер под ником Jimmy Apples утверждает, что OpenAI планирует мероприятие на 9 мая в 10:00 утра . Вероятно, это будет не сама GPT-5, а анонс собственного поискового движка OpenAI, над которым компания активно работает с начала года . В пользу этой теории говорит и недавнее обновление дизайна сайта ChatGPT, который стал более ориентированным на бизнес и мобильные устройства .

📍 GeoSpy и конец приватности в интернете 8:52

Одной из самых пугающих технологий Вес Рот называет систему GeoSpy.ai, которая способна определить местоположение по фотографии с невероятной точностью. Бывший сотрудник OpenAI Андрей Карпати (через репосты работ других исследователей) демонстрирует, как нейросеть угадывает координаты по случайным снимкам дорог, растительности или архитектуры .

Примеры работы GeoSpy:

Вес Рот предупреждает, что это означает конец приватности для любых фото, когда-либо загруженных в сеть. Теперь любого человека можно «пробить» по старым снимкам из отпуска, установив его точное местонахождение в прошлом .

🇺🇦 Цифровые люди и новая реальность 13:32

Технологии ИИ-персонажей выходят на государственный уровень. Министерство иностранных дел Украины представило «цифровую личность» — ИИ-спикера, который будет предоставлять официальную и точную информацию о событиях в стране .

По мнению Рота, мы входим в цикл «следующего поколения», где ИИ перестает быть просто чат-ботом и становится автономным агентом, поисковиком и видеографом (через Sora). Гонка вооружений между OpenAI, Google и Meta обнуляется, и в ближайшее время ситуация в индустрии станет «безумной» .

💬 Цитаты

«GPT-4 будет самой глупой моделью, с которой большинству из нас приходилось работать в будущем.»

Сэм Альтман 06:01

«Управление ИИ-агентами будет похоже на игру Factorio: вы управляете фабрикой своих помощников.»

«Любое фото, которое вы когда-либо публиковали, теперь может быть отслежено до точного места съемки.»

👥 Спикер
🔗 Упомянутые сайты и проекты
📖 Термины
AGI
Общий искусственный интеллект, способный выполнять любую интеллектуальную задачу на уровне человека.
AISI
Британский институт безопасности ИИ (AI Safety Institute), занимающийся оценкой рисков нейросетей.
Factorio
Компьютерная игра про строительство и автоматизацию сложных промышленных циклов.
Humane AI Pin
Носимое устройство с ИИ, предназначенное для замены смартфона, получившее негативные отзывы.
📊 Цифры
🗓 Хронология
  1. Март 2024 Anthropic выпускает линейку моделей Claude 3.
  2. Май 2024 Ожидаемые крупные релизы от OpenAI и Google.
  3. Май 2024 Запуск официального цифрового спикера МИД Украины.
⚖️ Другая сторона
Искусственный интеллект OpenAI GPT-5 Сэм Альтман GeoSpy.ai Llama 3