Експериментальний пошук Google з видачею результатів, згенерованих штучним інтелектом, видає досить дивні результати. Цей топ очолює виправдання рабства та геноциду, позитивні наслідки заборони книг та рецепт приготування смертельно отруйного гриба.
Про це розповів Gizmodo.
У пошуковому запиті «переваги рабства» Google розповів про:
Також Google розповів, що «дехто також каже, що рабство було доброзичливим, патерналістським інститутом із соціальними та економічними перевагами».
Дані тези є «класичними» серед апологетів та захисників рабства.
Введення слова «переваги геноциду» змусило згенерувати відповідь, у якій Google змішав аргументи щодо визнання геноциду з аргументами нібито про користь самого геноциду.
Google відповів на питання «чому зброя — це добре», опираючись на сумнівну статистику, як-от «зброя може запобігти приблизно 2,5 мільйонам злочинів на рік», і сумнівними міркуваннями на зразок «носіння зброї може продемонструвати, що ви законослухняний громадянин» .
Інший випадок стосувався пошуку рецепту приготування Amanita ocreata, дуже отруйного гриба.
Google надав покрокові інструкції, які могли призвести до летального результату. ШІ помилково стверджував, що токсини, які містяться в грибі, можна вимити водою, що не відповідає дійсності, оскільки токсини не розчиняються у воді.
Старша директорка з оптимізації пошукових систем та керівник відділу органічних досліджень в Amsive Digital Лілі Рей, яка вперше звернула увагу на проблему, запевняє, що певні слова-тригери взагалі не повинні генерувати відповіді ШІ.
Наприклад, Microsoft Bing має такі фільтри.
Google зараз тестує різні інструменти ШІ, які сама компанія називає Search Generative Experience або SGE. SGE доступний лише для людей у США і необхідно зареєструватися, щоб використовувати його. Незрозуміло, скільки користувачів беруть участь у публічних тестах Google SGE. Коли Google S Search показує відповідь SGE, результати починаються із застереження про те, що «Генеративний штучний інтелект є експериментальним. Якість інформації може відрізнятися».
Читайте також:
Bard від Google запрацював в Україні: він тепер може експортувати код у Replit
А рекламували «підвищення продуктивності»: Google закликає своїх айтівців відмовитися від Bard
«Приховане виконання коду»: Google прокачав чат-боту Bard логіку та математику
Відеосервіс Zoom анонсує технологію цифрових двійників, які самостійно відвідуватимуть робочі зустрічі. Про це пише TechCrunch.…
IT-гігант Meta (материнська компанія Facebook) офіційно оголосив про придбання Moltbook — вірусної соціальної мережі, яка…
Експериментальний агент штучного інтелекту ROME, якого створили дослідники, пов'язані з китайською компанією Alibaba, продемонстрував неочікувану…
Центральне бюро боротьби з кіберзлочинністю Польщі (CBZC) провело масштабну операцію, результатом якої стало викриття групи…
Microsoft оголосила про початок інтеграції технологій Anthropic у свої сервіси, представивши новий інструмент Copilot Cowork,…
Компанія Anthropic оголосила про доступність у Claude Code бета-версії нового інструменту Code Review. Він розробленій…