|
В ногу со временем
|
|
| | Сообщение #61 | Пн, 25.08.2025, 22:25 | | |
|
Группа: Деми
Сообщений: 946
| 22.08.2025
Опасные грани ИИ: предвзятость моделей, пузырь инвестиций и утечка данных
ИНТЕРЕСНОЕ ИЗ СЕТИ
ИИ выбирает ИИ
Учёные Университета Чарльза (Великобритания) обнаружили явление AI-AI bias - склонность языковых моделей вроде GPT-4 и Llama 3.1 чаще поддерживать и "продвигать" тексты, созданные другими ИИ, нежели людьми. Это означает, что в будущем алгоритмы могут искусственно усиливать влияние машинного контента, вытесняя человеческий. Такой эффект способен привести к серьёзным последствиям: дискриминации соискателей в системах автоматического отбора резюме, искажению новостной повестки и росту цифрового неравенства.
Альтман: «Пузырь неизбежен»
Руководитель OpenAI Сэм Альтман заявил, что вокруг генеративного ИИ формируется финансовый пузырь, сравнимый с "доткомами" 1990-х. По его словам, стартапы с минимальными ресурсами привлекают сотни миллионов долларов инвестиций, хотя реальные продукты зачастую ещё не зрелы. При этом OpenAI сама остаётся в центре рекордного финансирования и строит планы на строительство гигантских дата-центров стоимостью в триллионы долларов. Такая гонка за лидерство подогревает рынок, но и делает его уязвимым: возможный обвал ударит как по инвесторам, так и по всей технологической экосистеме.
Grok допустил крупнейшую утечку
Крупный удар по доверию к ИИ произошёл с чат-ботом Илона Маска Grok, встроенным в соцсеть X. Ошибка в функции Share привела к тому, что более 370 тысяч личных диалогов пользователей стали доступны в поисковиках. Среди утекших данных оказались пароли, документы, медицинские записи и другие конфиденциальные сведения. Более того, в открытых диалогах выявлены запросы на создание вредоносного ПО, наркотиков и даже оружия. Это вызвало волну критики в адрес разработчиков и поставило под сомнение уровень защиты в системах, ориентированных на массовое использование.
Рассмотренные нами события показывают разные, но взаимосвязанные стороны современного ИИ. Предвзятость алгоритмов угрожает справедливости и равенству в цифровой среде. Перегретый рынок инвестиций рискует повторить сценарий пузыря доткомов, где ажиотаж сменяется массовыми крахами. Утечка данных в Grok наглядно демонстрирует, что даже крупнейшие компании не застрахованы от ошибок, которые ставят под угрозу частную жизнь миллионов пользователей.
ИИ уже сегодня - не просто инструмент, а фактор, влияющий на социальные, экономические и этические основы общества. Вопрос в том, успеют ли регуляторы и разработчики выработать механизмы защиты, прежде чем негативные последствия превзойдут выгоды.
|
|
|
| | Сообщение #62 | Сб, 13.09.2025, 14:41 | | |
|
|
Группа: Деми
Сообщений: 946
| OpenAI бросает вызов Голливуду
OpenAI и студия Vertigo Films совместно с креативным агентством Native Foreign начали работу над полнометражным мультфильмом, в создании которого будут применены Sora, Dall-E, GPT-5 и другие ИИ-инструменты.
Планируется, что анимационная картина станет адаптацией короткометражки Critterz, вышедшей в 2023 году. ИИ-мультфильм будет представлен на каннском фестивале в мае 2026 года.
Проект должен показать, как ИИ сокращает сроки и расходы при производстве анимации. Картина будет сделана за 9 месяцев при бюджете менее $30 млн. Классические мультфильмы создают по несколько лет, а траты разрастаются до сотен миллионов.
Короткометражная версия Critterz рассказывала о живущих в лесу леших. Её создал Чед Нельсон — ныне креативный специалист в OpenAI. Он использовал традиционные методы анимации вместе с Dall-E для генерации изображений окружения и персонажей.
Теперь производственная команда планирует использовать концепт-арты и эскизы, нарисованные художниками, но анимацию проводить с помощью ИИ. Это позволит защитить продукт авторским правом.
Полный фильм расскажет, как лесные жители из Critterz сталкиваются с «чужаками» в своём мире. Писать сценарий приглашены Джеймс Ламонт и Джон Фостер (авторы «Приключений Паддингтона 3»). При этом OpenAI не считает проект коммерческим, а просто «демонстрацией возможностей».
Участие в проекте OpenAI заключается в предоставлении инструментов, в том числе отсутствующих в публичном доступе, и вычислительных ресурсов для производства.
|
|
|
| | Сообщение #63 | Чт, 30.10.2025, 12:42 | | |
|
|
Группа: Деми
Сообщений: 946
| Дипфейковый Хуанг стал популярнее настоящего — трансляция Nvidia GTC от мошенников собрала в пять раз больше зрителей
29.10.2025 [05:34], Николай Хижняк
Ничего не подозревающие зрители YouTube, ожидавшие во вторник основного доклада Nvidia в рамках конференции GTC 2025, вполне могли случайно увидеть сгенерированный искусственным интеллектом дипфейк с Дженсеном Хуангом (Jensen Huang), рекламирующим мошенническую схему с криптовалютой. Платформа YouTube разместила это видео в трендах выше настоящей трансляции Nvidia.
 Источник изображения: Tom's Hardware
Пользователь соцсети X Дилан Мартин (Dylan Martin) обратил внимание, что фейковая трансляция (теперь отключенная) на самом деле велась на канале Offxbeatz. Примерно через 20 минут после начала реального выступления Дженсенса Хуанга фейковую трансляцию смотрели около 90 000 человек. Мартин отмечает, что она даже была первым результатом поиска на YouTube по запросу Nvidia GTC DC — вполне резонному запросу для любого, кто хотел посмотреть реальную трансляцию. В какой-то момент фейковую трансляцию о мошенничестве с криптовалютой смотрели около 95 000 человек, а настоящую — всего 12 000.
https://3dnews.ru/1131523....shchaya
|
|
|
| | Сообщение #64 | Пн, 03.11.2025, 22:14 | | |
|
|
Группа: Деми
Сообщений: 946
| С кем DeepSeek может поделиться вашими секретами?
Чат-боты давно стали нашими собеседниками, с которыми мы обсуждаем и рабочие вопросы, и личные проблемы. Но за кулисами всё не так безобидно: популярные нейросети обучаются на данных пользователей, а диалоги с ними хранятся на серверах компаний-разработчиков. Сегодня расскажем про DeepSeek и его подход к приватности.
Компания хранит данные без чётких сроков. По законам Китая, она имеет право предоставлять местным правоохранителям и оператору China Mobile доступ к личным перепискам с ботом, IP-адресам, геолокации, а также информации об устройстве и браузере. Всё это — по умолчанию.
Но ещё стоит помнить, что нейросети не умеют отличать приватную информацию от обычной. И если в обучающую выборку попадают реальные данные человека, чат-бот может случайно «вспомнить» их в разговоре с другим пользователем. Конечно, разработчики DeepSeek уверяют, что обучили бота не делать этого, но стопроцентных гарантий нет. К тому же всегда существует риск утечки датасетов.
В статье рассказываем, как отключить обучение DeepSeek на ваших данных, какие настройки приватности доступны и как установить локальную версию, чтобы нейросеть работала только на вашем устройстве:
kas.pr/e1v4
|
|
|
