A termékpolitika az új alap
A fejlesztés első lépése egy rendkívül részletes termékpolitikai dokumentum létrehozása volt, amelybe minden fontos szempontot belefoglaltak. Vagyis mérnökök és termékmenedzserek közösen összeállítottak egy 20–30 oldalas útmutatót, amelyben különféle szempontok szerint pontozták az álláshirdetést és a jelentkező profilját. Ezután ehhez az alaphoz egy arany adathalmazt is létrehoztak: sok ezer keresés–profilpárost, amit aztán a ChatGPT is elemzett, kiegészített, sőt, szintetikus adatok tömegével bővített, hogy egy 7 milliárd paraméteres, úgynevezett tanármodellt (teacher model) tudjanak felépíteni.
Az áttörést a multi-teacher distilláció hozta
A nagy tanármodell azért készült, hogy a LinkedIn saját értékrendje, szabályrendszere minél pontosabban megjelenjen az ajánlórendszer döntéseiben. Ugyanígy azonban szükség volt egy második tanármodellre is, amely inkább a kattintás-előrejelzésre és a személyre szabásra koncentrált. Ezután a két tanármodellt ötvözve egy sokkal kisebb, 1,7 milliárd paraméteres diákmodellt (student model) hoztak létre, amelyet rengeteg tréningfutás során csiszoltak, hogy a lehető legkisebb minőségromlás mellett működjön.
Ez a többtanáros desztillációs technika (multi-teacher distillation) tette lehetővé, hogy az ajánlórendszer egyszerre ragaszkodjon a pontos termékpolitikához, miközben a kattintásokat és a személyes preferenciákat is előre tudja jelezni. Vagyis két különböző tanár különböző tudását egyesítették a diákmodellben: például az egyik az információ pontosságát, a másik a kommunikáció hangnemét adta át.
Új csapatmunka: termékmenedzserek és MI-mérnökök között
A fejlesztés megváltoztatta azt is, ahogy a LinkedInen a csapatok együtt dolgoznak. Korábban a termékmenedzserek kizárólag a stratégiára és a felhasználói élményre koncentráltak, míg az MI-mérnökök egyedül dolgoztak a modellek finomhangolásán. Most viszont közösen, iteratív módon alkotják meg azokat a tanármodelleket, amelyekből bármilyen MI-termék kiindulhat. Ez a módszer annyira bevált, hogy ma már minden nagyobb MI-fejlesztés alapját ez a közös alapterv (blueprint) adja a LinkedInen.
