Будущее больших языковых моделей: взгляд Алекса Машрабова 0:00
Технологический ландшафт стремительно меняется под влиянием генеративного искусственного интеллекта. В недавнем выпуске подкаста RH POD on AI ведущий Крис Вогу обсудил текущее состояние индустрии, проблемы безопасности и перспективы развития LLM с Алексом Машрабовым, основателем Higgsfield AI и бывшим директором в Snap.
🧠 Проблема «черного ящика» и отсутствие интерпретируемости 0:26
Одной из главных проблем современных нейросетей остается их низкая объяснимость. Алекс Машрабов отмечает, что люди склонны доверять тем системам, логику которых они могут понять, однако текущие LLM зачастую работают как «черные ящики».
- Позитивные сдвиги: Методики вроде «дерева мыслей» (tree of thoughts) и пошаговые запросы (step-by-step reasoning), которые используют пользователи ChatGPT, являются важным прогрессом в сторону прозрачности.
- Барьер для адаптации: Машрабов считает, что неспособность системы объяснить, как она проходит путь от вопроса к ответу, остается серьезным препятствием для массового внедрения технологии.
- Изменение стимулов: По мнению эксперта, научному сообществу следует сместить фокус с бенчмарков, проверяющих лишь конечный результат (например, сдача экзамена на адвоката), на развитие систем, способных демонстрировать логику своих действий.
🛡️ Безопасность и сопоставление с классической разработкой ПО 4:00
Машрабов проводит параллель между разработкой ПО и созданием языковых моделей. Он полагает, что индустрии катастрофически не хватает процедур проверки уязвимостей, которые стали стандартом в программном обеспечении.
- Инстинкт безопасности: Корпорации должны перенять лучшие практики разработки ПО, чтобы повысить доверие к LLM.
- Уроки прошлого: В любой индустрии возможны ошибки — от проблем в химической промышленности до «уродливых мутаций» у животных после применения удобрений. В софте подобные риски также существуют, но в случае с ИИ они вызывают гораздо большую тревогу.
- Корпоративный подход: Несмотря на риски, крупные компании вынуждены внедрять ИИ из-за жесткой конкуренции. Это создает парадокс: бизнес торопится внедрять технологии, не дожидаясь окончательного решения вопросов безопасности.
🚀 B2C против B2B: данные как конкурентное преимущество 28:03
Алекс Машрабов выделяет два типа использования данных в стартапах: продуктовая аналитика и данные, используемые для обучения самих моделей.
- Риски B2B-сегмента: Корпорации не хотят, чтобы их проприетарные данные использовались для обучения моделей, которые впоследствии станут доступны конкурентам. Это ставит B2B-стартапы в сложное положение, если они строят бизнес как «обертку» над OpenAI.
- Преимущество B2C: Компании, работающие напрямую с потребителями, имеют больше возможностей для сбора данных и обучения специализированных моделей, так как пользователи массово соглашаются с условиями использования.
- Персонализация: В конечном итоге именно механизмы персонализации интерфейса станут главным дифференциатором между компаниями, подобно тому, как алгоритмы рекомендаций стали ключом к успеху TikTok.
🛠️ Инструменты, психология и будущее профессий 33:34
По мнению гостя, успех в ИИ-индустрии потребует навыков, выходящих за рамки чистого программирования.
- Буллиш на инструменты: Машрабов считает, что инструменты для мониторинга, отладки (IDE) и контроля стоимости для эры ИИ будут востребованы гораздо сильнее, чем предыдущее поколение инструментов для машинного обучения (MLOps).
- Роль психологии: Разработка ИИ-решений требует глубокого понимания психологии покупателей и сотрудников. Лидерам компаний необходимо уметь правильно доносить ценность технологии, чтобы снизить страх сотрудников перед замещением их автоматизированными системами.
- Новая кибербезопасность: В ближайшем будущем корпорациям понадобятся «красные команды» (red teams) — своего рода «хакеры в резиденции», которые будут постоянно тестировать модели на уязвимости. Это потребует редкого сочетания знаний математики, навыков программирования и высокого уровня владения английским языком как инструментом общения с моделью.
