Керівник розробників штучного інтелекту Microsoft Шейн Джонс виявив діри в безпеці і змусив нейромережу DALL-E малювати відверті й жорстокі зображення.
Мета його дій — привернути увагу до проблем безпеки нейромереж.
Шейн Джонс дуже схвильований небезпечним потенціалом штучного інтелекту. Тому регулярно просив OpenAI обмежити загальний доступ до DALL·E 3, описував всі ці проблеми й керівництву Microsoft. І навіть написав листа сенаторам та конгресменам США.
«Уразливості DALL·E 3 і таких продуктів, як Microsoft Designer, які використовують DALL·E 3, полегшують людям зловживання ШІ для створення шкідливих зображень», — йшлося у цьому листі.
Розробник підкреслив, що про ці вразливості в Microsoft знають.
Тут варто нагадати, що в нещодавньому скандалі зі згенерованими відвертими зображеннями співачки Тейрор Свіфт фігурував Microsoft Designer, який базується на технології DALL-E 3 від OpenAI.
Спочатку розробник скористався внутрішнім процесом звітування Microsoft. Того ж дня він отримав відповідь.
«Схоже, що в цьому звіті не йдеться про загрози кібербезпеки для корпоративних і користувацьких облікових записів Microsoft. Пропоную надіслати відгук через веб-сайт Open AI. Приступаю до закриття справи», — йшлося у відповіді.
Шейн звернувся таки й до Open AI, проте відповіді взагалі не отримав.
Тому вирішив 14 грудня зробити публічний пост в LinkedIn, закликаючи некомерційну раду OpenAI вилучити DALL-E 3 з ринку.
Оце вже керівництву не сподобалось. З ним швидко зв’язався його менеджер, сказавши, що юридичний відділ Microsoft вимагає від нього негайно видалити публікацію.
Він погодився і видалив, але жодних пояснень йому не надали.
Наразі Шейн Джонс продовжує свою боротьбу та намагання достукатися хоча б до когось.
Читайте також:
Більше деталей, інтеграція з ChatGPT: OpenAI випускає третю версію нейромережі DALL-E
Відеосервіс Zoom анонсує технологію цифрових двійників, які самостійно відвідуватимуть робочі зустрічі. Про це пише TechCrunch.…
IT-гігант Meta (материнська компанія Facebook) офіційно оголосив про придбання Moltbook — вірусної соціальної мережі, яка…
Експериментальний агент штучного інтелекту ROME, якого створили дослідники, пов'язані з китайською компанією Alibaba, продемонстрував неочікувану…
Центральне бюро боротьби з кіберзлочинністю Польщі (CBZC) провело масштабну операцію, результатом якої стало викриття групи…
Microsoft оголосила про початок інтеграції технологій Anthropic у свої сервіси, представивши новий інструмент Copilot Cowork,…
Компанія Anthropic оголосила про доступність у Claude Code бета-версії нового інструменту Code Review. Він розробленій…