| | Сообщение #61 | Пн, 25.08.2025, 22:25 | | |
|
Группа: Деми
Сообщений: 921
| 22.08.2025
Опасные грани ИИ: предвзятость моделей, пузырь инвестиций и утечка данных
ИНТЕРЕСНОЕ ИЗ СЕТИ
ИИ выбирает ИИ
Учёные Университета Чарльза (Великобритания) обнаружили явление AI-AI bias - склонность языковых моделей вроде GPT-4 и Llama 3.1 чаще поддерживать и "продвигать" тексты, созданные другими ИИ, нежели людьми. Это означает, что в будущем алгоритмы могут искусственно усиливать влияние машинного контента, вытесняя человеческий. Такой эффект способен привести к серьёзным последствиям: дискриминации соискателей в системах автоматического отбора резюме, искажению новостной повестки и росту цифрового неравенства.
Альтман: «Пузырь неизбежен»
Руководитель OpenAI Сэм Альтман заявил, что вокруг генеративного ИИ формируется финансовый пузырь, сравнимый с "доткомами" 1990-х. По его словам, стартапы с минимальными ресурсами привлекают сотни миллионов долларов инвестиций, хотя реальные продукты зачастую ещё не зрелы. При этом OpenAI сама остаётся в центре рекордного финансирования и строит планы на строительство гигантских дата-центров стоимостью в триллионы долларов. Такая гонка за лидерство подогревает рынок, но и делает его уязвимым: возможный обвал ударит как по инвесторам, так и по всей технологической экосистеме.
Grok допустил крупнейшую утечку
Крупный удар по доверию к ИИ произошёл с чат-ботом Илона Маска Grok, встроенным в соцсеть X. Ошибка в функции Share привела к тому, что более 370 тысяч личных диалогов пользователей стали доступны в поисковиках. Среди утекших данных оказались пароли, документы, медицинские записи и другие конфиденциальные сведения. Более того, в открытых диалогах выявлены запросы на создание вредоносного ПО, наркотиков и даже оружия. Это вызвало волну критики в адрес разработчиков и поставило под сомнение уровень защиты в системах, ориентированных на массовое использование.
Рассмотренные нами события показывают разные, но взаимосвязанные стороны современного ИИ. Предвзятость алгоритмов угрожает справедливости и равенству в цифровой среде. Перегретый рынок инвестиций рискует повторить сценарий пузыря доткомов, где ажиотаж сменяется массовыми крахами. Утечка данных в Grok наглядно демонстрирует, что даже крупнейшие компании не застрахованы от ошибок, которые ставят под угрозу частную жизнь миллионов пользователей.
ИИ уже сегодня - не просто инструмент, а фактор, влияющий на социальные, экономические и этические основы общества. Вопрос в том, успеют ли регуляторы и разработчики выработать механизмы защиты, прежде чем негативные последствия превзойдут выгоды.
|
|
|
| | Сообщение #62 | Сб, 13.09.2025, 14:41 | | |
|
|
Группа: Деми
Сообщений: 921
| OpenAI бросает вызов Голливуду
OpenAI и студия Vertigo Films совместно с креативным агентством Native Foreign начали работу над полнометражным мультфильмом, в создании которого будут применены Sora, Dall-E, GPT-5 и другие ИИ-инструменты.
Планируется, что анимационная картина станет адаптацией короткометражки Critterz, вышедшей в 2023 году. ИИ-мультфильм будет представлен на каннском фестивале в мае 2026 года.
Проект должен показать, как ИИ сокращает сроки и расходы при производстве анимации. Картина будет сделана за 9 месяцев при бюджете менее $30 млн. Классические мультфильмы создают по несколько лет, а траты разрастаются до сотен миллионов.
Короткометражная версия Critterz рассказывала о живущих в лесу леших. Её создал Чед Нельсон — ныне креативный специалист в OpenAI. Он использовал традиционные методы анимации вместе с Dall-E для генерации изображений окружения и персонажей.
Теперь производственная команда планирует использовать концепт-арты и эскизы, нарисованные художниками, но анимацию проводить с помощью ИИ. Это позволит защитить продукт авторским правом.
Полный фильм расскажет, как лесные жители из Critterz сталкиваются с «чужаками» в своём мире. Писать сценарий приглашены Джеймс Ламонт и Джон Фостер (авторы «Приключений Паддингтона 3»). При этом OpenAI не считает проект коммерческим, а просто «демонстрацией возможностей».
Участие в проекте OpenAI заключается в предоставлении инструментов, в том числе отсутствующих в публичном доступе, и вычислительных ресурсов для производства.
|
|
|
