Kaip AI tobulina modeliavimą naudojant išmanesnius mėginių ėmimo būdus | MIT naujienos

Įsivaizduokite, kad jums pavesta nusiųsti futbolininkų komandą į aikštę, kad įvertintų žolės būklę (žinoma, tikėtina, jų užduotis). Jei pasirinksite jų pozicijas atsitiktinai, kai kuriose srityse jie gali susikaupti, o visiškai nepaisydami kitų. Bet jei nurodysite jiems strategiją, pavyzdžiui, tolygiai paskirstysite lauką, galite gauti daug tikslesnį žolės būklės vaizdą.

Dabar įsivaizduokite, kad reikia išsiskirstyti ne tik dviem matmenimis, bet ir dešimtimis ar net šimtais. Tai yra iššūkis, kurį įveikia MIT kompiuterių mokslo ir dirbtinio intelekto laboratorijos (CSAIL) mokslininkai. Jie sukūrė AI pagrįstą „mažo neatitikimo atrankos“ metodą, kuris pagerina modeliavimo tikslumą tolygiau paskirstydamas duomenų taškus erdvėje.

Pagrindinė naujovė yra grafinių neuroninių tinklų (GNN), kurie leidžia taškams „bendrauti“ ir savarankiškai optimizuotis, kad būtų užtikrintas geresnis vienodumas, naudojimas. Jų metodas yra esminis modeliavimo patobulinimas tokiose srityse kaip robotika, finansai ir skaičiavimo mokslas, ypač sprendžiant sudėtingas daugiamates problemas, kurios yra svarbios tiksliam modeliavimui ir skaitiniams skaičiavimams.

„Daugelyje problemų, kuo tolygiau galite paskirstyti taškus, tuo tiksliau galite imituoti sudėtingas sistemas“, – sako T. Konstantinas Ruschas, pagrindinis naujojo straipsnio autorius ir MIT CSAIL postdoc. „Mes sukūrėme metodą, vadinamą Message-Passing Monte Carlo (MPMC), kad generuotume vienodai išdėstytus taškus, naudodami geometrinius giluminio mokymosi metodus. Tai taip pat leidžia mums generuoti taškus, kurie pabrėžia matmenis, kurie yra ypač svarbūs nagrinėjamai problemai, o tai yra labai svarbi savybė daugelyje programų. Modelio pagrindiniai grafiniai neuroniniai tinklai leidžia taškams „kalbėtis“ tarpusavyje ir pasiekti daug geresnį vienodumą nei ankstesni metodai.

Jų darbai buvo paskelbti rugsėjo mėnesio numeryje Nacionalinės mokslų akademijos darbai.

Nuvežkite mane į Monte Karlą

Monte Karlo metodų idėja yra sužinoti apie sistemą, imituojant ją atsitiktinės atrankos būdu. Atranka – tai populiacijos pogrupio atranka siekiant įvertinti visos populiacijos charakteristikas. Istoriškai jis buvo naudojamas jau XVIII amžiuje, kai matematikas Pierre'as-Simonas Laplasas jį panaudojo, kad įvertintų Prancūzijos gyventojų skaičių, neskaičiuojant kiekvieno asmens.

Mažo neatitikimo sekos, kurios yra mažo neatitikimo, ty didelio vienodumo, sekos, tokios kaip Sobol', Halton ir Niederreiter, jau seniai buvo auksinis kvaziatsitiktinės atrankos standartas, kai atsitiktinė atranka keičiama mažo neatitikimo atranka. Jie plačiai naudojami tokiose srityse kaip kompiuterinė grafika ir skaičiavimo finansai, pradedant kainodara ir baigiant rizikos vertinimu, kur tolygiai užpildžius vietas taškais galima gauti tikslesnius rezultatus.

Komandos pasiūlyta MPMC sistema atsitiktinius mėginius paverčia labai vienodais taškais. Tai atliekama apdorojant atsitiktinius mėginius su GNN, kuris sumažina konkretų neatitikimo matą.

Vienas didelis iššūkis naudojant AI generuojant labai vienodus taškus yra tai, kad įprastas taškų vienodumo matavimo būdas yra labai lėtas ir sunkus. Norėdami tai išspręsti, komanda perėjo prie greitesnės ir lankstesnės vienodumo priemonės, vadinamos L2 neatitikimu. Didelių matmenų problemoms spręsti, kai vien šio metodo nepakanka, jie naudoja naują techniką, kurioje dėmesys sutelkiamas į svarbias žemesnių matmenų taškų projekcijas. Tokiu būdu jie gali sukurti taškų rinkinius, kurie geriau tinka konkrečioms programoms.

Pasak komandos, pasekmės yra toli už akademinės bendruomenės. Pavyzdžiui, skaičiavimo finansuose modeliavimas labai priklauso nuo atrankos taškų kokybės. „Taikant tokius metodus, atsitiktiniai taškai dažnai būna neefektyvūs, tačiau mūsų GNN sukurti mažo neatitikimo taškai užtikrina didesnį tikslumą“, – sako Ruschas. „Pavyzdžiui, mes svarstėme klasikinę 32 dimensijų skaičiavimo finansavimo problemą, kai mūsų MPMC taškai pranoksta ankstesnius naujausius beveik atsitiktinės atrankos metodus nuo keturių iki 24 kartų.

Robotai Monte Karle

Robotikos srityje kelio ir judesio planavimas dažnai remiasi atranka pagrįstais algoritmais, kurie nukreipia robotus į sprendimų priėmimo procesus realiuoju laiku. Patobulintas MPMC vienodumas gali paskatinti efektyvesnę robotų navigaciją ir pritaikymą realiuoju laiku tokiems dalykams kaip autonominis vairavimas ar dronų technologija. „Tiesą sakant, neseniai atliktame išankstiniame spaudinyje parodėme, kad mūsų MPMC taškai keturis kartus pagerina ankstesnius mažo neatitikimo metodus, kai jie taikomi realaus pasaulio robotikos judesio planavimo problemoms spręsti“, – sako Ruschas.

„Tradicinės mažo neatitikimo sekos savo laiku buvo didelė pažanga, tačiau pasaulis tapo sudėtingesnis, o problemos, kurias dabar sprendžiame, dažnai egzistuoja 10, 20 ar net 100 matmenų erdvėse“, – sako Daniela Rus, CSAIL. direktorius ir MIT elektrotechnikos ir informatikos profesorius. „Mums reikėjo kažko protingesnio, kažko, kas prisitaikytų augant matmenims. GNN yra paradigmos pokytis, kaip generuoti mažo neatitikimo taškų rinkinius. Skirtingai nuo tradicinių metodų, kai taškai generuojami nepriklausomai, GNN leidžia taškams „bendrauti“ vieni su kitais, kad tinklas išmoktų dėti taškus taip, kad būtų sumažintas grupavimas ir spragas – tai įprastos problemos.

Ateityje komanda planuoja padaryti MPMC taškus dar labiau prieinamus visiems, atsižvelgdama į dabartinį apribojimą rengti naują GNN kiekvienam fiksuotam taškų ir matmenų skaičiui.

„Dauguma taikomosios matematikos naudoja nuolat kintančius kiekius, tačiau skaičiavimas paprastai leidžia mums naudoti tik baigtinį taškų skaičių“, – sako Art B. Owen, Stanfordo universiteto statistikos profesorius, kuris tyrime nedalyvavo. „Šimtmečio ir daugiau senumo neatitikimų laukas naudoja abstrakčią algebrą ir skaičių teoriją, kad nustatytų efektyvius atrankos taškus. Šiame darbe naudojami grafiniai neuroniniai tinklai, kad būtų galima rasti įvesties taškus, kurių neatitikimas yra mažas, palyginti su nuolatiniu pasiskirstymu. Toks požiūris jau labai artimas geriausiai žinomiems mažo neatitikimo taškams mažose problemose ir rodo daug žadą 32 dimensijų integralui iš skaičiavimo finansų. Galime tikėtis, kad tai bus pirmasis iš daugelio pastangų naudoti neuroninius metodus, siekiant rasti gerus įvesties taškus skaitmeniniam skaičiavimui.

Ruschas ir Rusas parašė darbą su Vaterlo universiteto mokslininku Nathanu Kirku, Oksfordo universiteto „DeepMind“ AI profesoriumi ir buvusiu CSAIL filialu Michaelu Bronsteinu ir Vaterlo universiteto statistikos ir aktuarinių mokslų profesore Christiane Lemieux. Jų tyrimus iš dalies rėmė AI2050 programa Schmidt Sciences, Boeing, Jungtinių Valstijų oro pajėgų tyrimų laboratorija ir Jungtinių Valstijų oro pajėgų dirbtinio intelekto greitintuvas, Šveicarijos nacionalinis mokslo fondas, Kanados gamtos mokslų ir inžinerijos tyrimų taryba, ir EPSRC Turing AI pasaulyje pirmaujanti mokslinių tyrimų stipendija.