Amazon оголосила фреймворк Promptimus, автоматично оптимізуючи підказки для LLM

robot
Генерація анотацій у процесі
AIMPACT повідомлення, 15 травня (UTC+8), вчені Amazon запропонували автоматизовану рамку для створення підказок під назвою Promptimus, яка дозволяє покращувати вже високоякісні підказки для великих мовних моделей без людського втручання. Цей метод за допомогою ітеративної оптимізації використовує допоміжну модель "оптимізатора" для аналізу взаємодії між підказками та виходами моделі, автоматично визначаючи та коригуючи такі аспекти, як ясність інструкцій та вибір прикладів. У багатьох базових тестах, таких як математичне логічне мислення (точність GSM8K з 78% до 85%), відповіді на загальні питання та генерація коду, оптимізовані підказки показали середнє покращення продуктивності від 5% до 15%. Ця рамка не залежить від конкретної архітектури LLM або типу задачі, має універсальність і за допомогою регуляризаційних термінів та механізмів перехресної перевірки запобігає надмірній оптимізації, забезпечуючи здатність до узагальнення. (Джерело: InFoQ)
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 6
  • 14
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
GateUser-9190180e
· 1год тому
Не прив'язуючись до конкретної архітектури моделі, саме універсальність є справжнім плюсом
Переглянути оригіналвідповісти на0
TransparentDomeCity
· 11год тому
Автоматичне налаштування prompt нарешті позбавилося від "літання з алхімією", науковці в захваті
Переглянути оригіналвідповісти на0
GovernanceMoodboard
· 11год тому
5-15% середнього підвищення виглядає скромно, але на тлі повної автоматизації це вражає
Переглянути оригіналвідповісти на0
StopLossSparrow
· 11год тому
Регуляризація + крос-валідація для запобігання перенавчанню, деталі враховані до дрібниць
Переглянути оригіналвідповісти на0
GateUser-f49a50d4
· 11год тому
Promptimus ця назва звучить як трансформер, але ефект справжній
Переглянути оригіналвідповісти на0
MoonlightTake-ProfitLine
· 11год тому
GSM8K зросла з 78% до 85%, математичне мислення дійсно круте
Переглянути оригіналвідповісти на0
  • Закріплено