| | Сообщение #1 | Ср, 02.03.2022, 17:15 | | |
|
Группа: wing
Сообщений: 29223
|
|
|
|
| | Сообщение #2 | Пт, 31.03.2023, 21:32 | | |
|
Группа: Летописец
Сообщений: 298
| https://un-sci.com/ru....chatgpt
Технологии развиваются очень стремительно, а в связи с целым рядом рисков для конфиденциальности, кибербезопасности и дезинформации призывов приостановить обновления ChatGPT становится все больше. Проблема захватила значительную часть стран всего мира, но отреагировала жестко пока только Италия, что тоже весьма любопытный поворот…
Недавно свыше 1300 экспертов разных сфер подписали открытое письмо, призывающее лаборатории ИИ по всему миру приостановить разработку моделей мощнее GTP-4 из-за «значительных рисков для общества и человечества».Среди подписавших петицию: американский бизнесмен, гендиректор компаний Tesla и SpaceX Илон Маск, американский бизнесмен, соучредитель соцсети Pinterest Эван Шарп, американский программист, соучредитель Apple Стив Возняк, генеральный директор фотоагентства Getty Images Крейг Питерс, израильский историк Юваль Ной Харари. Полный список тут, однако издание Verge предупреждает, что некоторые имена добавлены в список явно в виде шутки — например, имя Сэма Альтмана, руководителя OpenAI, частично ответственного за нынешнюю гонку генеративных моделей. По состоянию на 31 марта подписантов уже 1988 человек.В воззвании, опубликованном некоммерческим Институтом будущего жизни, говорится, что многие команды исследователей ИИ вовлечены в «бесконтрольную гонку» по созданию и внедрению систем машинного обучения, «которые никто — даже их создатели — не способны понять, предсказать или уверенно контролировать».«Поэтому мы призываем все ИИ-лаборатории немедленно прекратить как минимум на шесть месяцев обучение систем ИИ, мощность которых превышает GTP-4, — говорится в письме. — Эта пауза должна быть публичной и проверяемой, охватывать всех ключевых фигур. Если эта мера не будет введена быстро, правительства должны вмешаться и ввести мораторий».Отмечается, что продвинутый ИИ может запустить глубокое изменение в истории жизни на Земле.«Современные системы искусственного интеллекта в настоящее время становятся конкурентоспособными с людьми при решении общих задач, и мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, в том числе приносящие удовлетворение? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» – говорится в письме.Как отмечается в письме, даже OpenAI заявляла о необходимости «независимого контроля» над будущими системами ИИ, которые должны соответствовать стандартам безопасности. Подписанты утверждают, что это время пришло.
Италия стала первой
31 марта Итальянское управление по защите персональных данных постановило запретить ChatGPT из-за предполагаемых нарушений конфиденциальности.
Национальный орган по защите данных заявил, что немедленно заблокирует OpenAI и проведет расследование в связи с обработкой данных итальянских пользователей. Приказ является временным и действует до тех пор, пока компания не начнет соблюдать закон ЕС о конфиденциальности «Общий регламент по защите данных».Итальянские власти заявили, что у компании нет правовых оснований, оправдывающих массовый сбор и хранение персональных данных для обучения алгоритмов ChatGPT.
Лев Арцимович
|
|
|
