Змусьте ШІ думати за допомогою символів, яких не розуміє людина, відповідаючи так само точно, але в 12 разів швидше

Бюро новин CoinWorld повідомляє, що OneMillion_AI повідомляє, у статті «thinking without words» запропоновано метод abstract-cot, який шляхом введення 64 нових «абстрактних символів» у словник моделі, які не відповідають жодній людській мові. Модель перед відповіддю спочатку виводить невелику послідовність таких символів як чернетку, безпосередньо даючи відповідь, пропускаючи традиційний процес природного мовного розуміння. У експерименті з математичними задачами math-500 кількість токенів у процесі роздуму зменшилася з кількох сотень до кількох десятків, зменшення споживання токенів досягло максимуму 11,6 разів, при цьому точність відповіді залишилася незмінною. Експеримент охоплює три сімейства моделей qwen3-8b, qwen3-4b та ibm granite 4.0 micro, результати однакові. Ці 64 символи під час тренування самостійно формували закономірності, схожі на природну мову: деякі символи використовуються часто, інші — рідко, розподіл відповідає закономірностям поширених слів у людській мові. Після перемішування порядку символів точність відповіді значно знижується, що свідчить про те, що модель навчилася використовувати цей «шифр» для структурованого розв’язання задач.