Магія за межами Гоґвортсу. Книжки про Гаррі Поттера дозволили вченим навчити ШІ забувати інформацію
В одному з досліджень фахівці з Microsoft Марк Руссінович і Ронен Елдан продемонстрували, що моделі штучного інтелекту можна змінити або відредагувати, щоб видалити будь-які відомості про існування книг про Гаррі Поттера, включаючи персонажів і сюжети, не жертвуючи загальним рішенням системи штучного інтелекту.
«Ми вірили, що дослідницькій спільноті буде простіше оцінити модель, створену за допомогою нашої техніки, і переконатися, що контент справді був „невивченим“. Майже будь-хто може придумати підказки для моделі, які б перевірили, чи „знає“ вона книги. Навіть люди, які не читали книг, знають елементи сюжету та персонажів», — сказав Руссінович, головний технічний директор Microsoft Azure.
В іншому дослідженні вчені з Університету Вашингтона в Сіетлі, Університету Каліфорнії в Берклі та Інституту Аллена з питань ШІ розробили нову мовну модель під назвою Silo, яка може видаляти дані, щоб зменшити юридичні ризики.
Дослідники використали книги про Гаррі Поттера, щоб побачити, чи впливають окремі фрагменти тексту на продуктивність системи ШІ. Висновок був невтішним: протестована модель стала менш точною.
«Коли книги про Гаррі Поттера видаляються зі сховища даних, розгубленість (показник ефективності ШІ, який демонструє, наскільки добре модель прогнозує вибірку та розподіляє ймовірності — NV) стає ще гіршим», — сказали дослідники.