Když porovnáváš dva AI produkty se stejným modelem, mohou se chovat úplně jinak. Důvod je v tom, co kolem modelu staví tým, tedy v harnessu.
Co je nového / Jak to funguje
Podle NN/g je model schopný jen generovat text a žádat akce, harness je provádí a hlídá, co model vidí a smí. Článek popisuje čtyři role:
- Smyčka: model požádá o nástroj, harness zkontroluje oprávnění, spustí ho a vrátí výsledek.
- Kontext: harness skládá požadavek, instrukce, historii, uložené preference a data z aplikací. Co harness nepředá, pro model neexistuje (příklad: preference „volné pátky“).
- Nástroje a oprávnění: čtení, vytváření a odesílání mohou vyžadovat různá schválení; připojené aplikace mají vlastní pravidla.
- Instrukce a limity: tvrdé limity na čas, cenu a kroky, pauzy pro lidský vstup, kontrola výstupu a opakování. Kdy se zastavit nebo požádat o pomoc, je designové rozhodnutí.
Proč je to důležité
Nastavení harnessu určuje, co produkt zvládne a kolik práce zůstane na uživateli. Podle článku z modelu nepoznáš, zda produkt úlohu zvládne, a proto produkty srovnávej na stejných úlohách. Designéři mají kromě rozhraní specifikovat chování systému: výchozí hodnoty, místa schvalování, ukládání preferencí a co se stane při zrušení úlohy. Evaluace mají testovat celý úkol včetně odpojených nástrojů, změněných preferencí a situací bez řešení a určit, zda chyba vzešla z rozhraní, harnessu, nebo modelu.
Jak začít
- Nakresli smyčku svého agentního produktu: kde schvaluje člověk, kde se zastavuje.
- Pro každý nástroj urči oprávnění (čtení / vytvoření / odeslání).
- Napiš tři testovací scénáře: odpojený nástroj, změněná preference, úloha bez řešení.
- U každé chyby zaznamenej, zda je z UI, harnessu, nebo modelu.