Vancouver, British Columbia - May 26, 2023: Microsoft logo on the side of a office building at sunset.
Microsoft оприлюднила код BitNet b1.58 — однієї з найбільш значущих розробок 2024 року. Про це повідомили DOU.ua.
Нова технологія дозволяє запускати великі мовні моделі (до 100 мільярдів параметрів) на локальних пристроях, зокрема на одному CPU, зі швидкістю 5-7 токенів в секунду.
BitNet b1.58 пропонує швидкість у 1.37-6.17 разів вищу на ARM і x86 процесорах та знижує енергоспоживання на 55-70%. Модель використовує тернарне кодування параметрів, забезпечуючи високу ефективність та продуктивність.
Це означає, що тепер можливий запуск великих мовних моделей (до 100B параметрів) на локальних пристроях без дорогих обчислювальних ресурсів. Це робить ШІ доступнішим для стартапів та індивідуальних розробників.
Значне зниження енергоспоживання та збільшення швидкості обробки також відкриває нові можливості для використання ШІ в мобільних пристроях і вбудованих системах. Крім того, нова архітектура стимулює розробку оптимізованого апаратного забезпечення для 1-бітних LLM.
Відеосервіс Zoom анонсує технологію цифрових двійників, які самостійно відвідуватимуть робочі зустрічі. Про це пише TechCrunch.…
IT-гігант Meta (материнська компанія Facebook) офіційно оголосив про придбання Moltbook — вірусної соціальної мережі, яка…
Експериментальний агент штучного інтелекту ROME, якого створили дослідники, пов'язані з китайською компанією Alibaba, продемонстрував неочікувану…
Центральне бюро боротьби з кіберзлочинністю Польщі (CBZC) провело масштабну операцію, результатом якої стало викриття групи…
Microsoft оголосила про початок інтеграції технологій Anthropic у свої сервіси, представивши новий інструмент Copilot Cowork,…
Компанія Anthropic оголосила про доступність у Claude Code бета-версії нового інструменту Code Review. Він розробленій…