IBM випустила Granite 4.0 - нове сімейство моделей відкритої ваги розміром від 3B до 32B. Штучний аналіз був наданий перед релізом, і наш порівняльний аналіз показує, що Granite 4.0 H Small (32B/9B загальні/активні параметри) отримав індекс інтелекту 23, з особливою перевагою в ефективності токенів Сьогодні IBM випустила чотири нові моделі: Granite 4.0 H Small (загальні/активні параметри 32B/9B), Granite 4.0 H Tiny (7B/1B), Granite 4.0 H Micro (3B/3B) та Granite 4.0 Micro (3B/3B). Ми оцінили Granite 4.0 Small (у режимі без міркувань) та Granite 4.0 Micro за допомогою Artificial Analysis Intelligence Index. Моделі Granite 4.0 поєднують в собі невелику кількість стандартних шарів уваги в стилі трансформера з більшістю шарів Mamba, що стверджується, зменшує вимоги до пам'яті без шкоди для продуктивності Ключові висновки бенчмаркінгу: 🧠 ➤ Granite 4.0 H Small Intelligence: У неміркуваннях Granite 4.0 H Small отримує 23 бали за індексом Artificial Analysis Intelligence - стрибок на +8 балів за індексом у порівнянні з IBM Granite 3.3 8B (Non Reasoning). Граніт 4.0 H Малі місця випереджають Gemma 3 27B (22), але відстають Mistral Small 3.2 (29), EXAONE 4.0 32B (Non-Reasoning, 30) і Qwen3 30B A3B 2507 (Non-Reasoning, 37) за інтелектом ⚡ ➤ Граніт 4.0 Мікроінтелект: за індексом інтелекту штучного аналізу, Granite 4.0 Micro оцінюється в 16 балів. Він випереджає Gemma 3 4B (15) та LFM 2 2.6B (12). ⚙️ ➤ Ефективність токенів: Granite 4.0 H Small і Micro демонструють вражаючу ефективність токенів - Granite 4.0 Small використовує 5.2M, тоді як Granite 4.0 Micro використовує 6.7M токенів для запуску Artificial Analysis Intelligence Index. Обидві моделі мають менше токенів, ніж Granite 3.3, 8B (Non-Reasoning) і більшість інших моделей з відкритими вагами, що не мають розуму, менше 40B, загальні параметри (крім Qwen3 0.6B, який використовує 1,9M вихідних токенів) Ключові деталі моделі: 🌐 ➤ Наявність: Усі чотири моделі доступні на Hugging Face. Granite 4.0 H Small доступний на Replicate і коштує $0,06/$0,25 за 1M вхідних/вихідних токенів 📏 ➤ Контекстне вікно: 128 тисяч токенів ©️ ➤ Ліцензування: моделі Granite 4.0 доступні за ліцензією Apache 2.0
Ефективність вихідного токена Granite 4.0 H Small (Non Reasoning) та ціна на токен пропонують переконливий компроміс між інтелектом та індексом інтелекту вартості проведення штучного аналізу
У категорії моделей без міркувань з відкритими вагами, менших за загальні параметри 40B, Granite 4.0 H Small знаходиться на межі компромісу між інтелектом і вихідними токенами, що використовуються в індексі інтелекту штучного аналізу
У категорії моделей без міркувань з відкритими вагами, менших за загальні параметри 4B, Granite 4.0 Micro знаходиться на межі компромісу між інтелектом і вихідними токенами, що використовуються в індексі інтелекту штучного аналізу
Порівняйте, як працюють моделі Granite 4.0 порівняно з іншими моделями, які ви використовуєте або розглядаєте:
30,47K