Google придется переучивать искусственный интеллект

Время на прочтение: 2 минут(ы)

Google объявила конкурс, который должен помочь ответить на вопрос — можно ли переучивать искусственный интеллект? The First Machine Unlearning Challenge, в котором могут принять участие все желающие, продлится с середины июля по середину сентября. Цель — удаление конфиденциальных данных из систем искусственного интеллекта, чтобы привести их в соответствие с глобальными стандартами регулирования данных.

Всем известно, что машинное обучение — основа искусственного интеллекта — предлагает решения сложных проблем, путем создания нового контента, прогнозирования результатов или ответов на сложные запросы. С помощью машинного обучения Google планирует внедрить выборочную «амнезию» в свои алгоритмы искусственного интеллекта, чтобы удалить все следы определенного набора данных из уже созданных систем машинного обучения компании, не влияя на их производительность.

Машинное обучение содержит лазейки для нарушения конфиденциальности данных

Несмотря на важность проектов машинного обучения в наш цифровой век, они сопряжены со многими проблемами, включая неправомерное использование данных киберпреступниками для запугивания и шантажа пользователей, кражу данных, блокирование доступа к онлайн-активностям, несанкционированное распознавание лиц и создание дипфейков (глубоких подделок).

Google считает, что новые обучающие алгоритмы, способные научить старые забывать данные 🙂 , дадут людям больше контроля над конфиденциальной информацией. Это облегчило бы компании обслуживание пользователей, подающих заявки в рамках права на забвение*.

Google частично реагирует на регулирование, поскольку органы, отвечающие за обработку данных, имеют право принуждать компании уничтожать незаконно полученную информацию. В соответствии с руководящими принципами Европейского общего регламента по защите данных (GDPR) люди могут потребовать удаления данных от организаций, если у них есть опасения по поводу информации, которую они раскрыли или предоставили.

Возможность переучивать искусственный интеллект позволила бы удалять данные из алгоритма и гарантировать, что никто не получит от них выгоды, одновременно экономя средства на разработку новых нейросетей.
Если челендж удастся, то у интернет-гиганта появится возможность быстро, а главное — дешево, подстраиваться под меняющееся законодательство.

Nota Bene
Право на забвение — право пользователя удалить определенную информацию из интернета. К ней относятся: недостоверные или неактуальные сведения. Данные, которые распространяются с нарушением закона. Данные, которые могут нанести вред человеку. Право на забвение существует в России с 2016 года и регулируется законом о защите информации. Нужно обратить внимание, что это касается возможности удалить из поисковых систем лишь ссылки на материалы, а не сами материалы.

Другие забавные новости про гугл
Ошибка чат-бота Bard стоила Google 100 млрд $

---

Использованы материалы:
https://ai.googleblog.com/2023/06/announcing-first-machine-unlearning.html?m=1
https://www.zdnet.com/article/evil-ai-these-are-the-20-most-dangerous-crimes-that-artificial-intelligence-will-create/
https://ai.google/static/documents/recommendations-for-regulating-ai.pdf

♯ забавные новости ♯ ИИ ♯ искусственный интеллект ♯ новые технологии