Mikilvægt að ákvarðanir teknar af gervigreind séu gegnsærri og traustverðugri
Við Háskólann í Reykjavík eru stundaðar víðfemar rannsóknir á gervigreind og er rannsóknarfólk háskólans í fremstu röð á því sviði. Yngvi Björnsson, prófessor í tölvunarfræði, er einn þeirra en hann hlaut nýverið verkefnisstyrk frá Rannís fyrir verkefnið Útskýranleg gervigreind og virkt vélnám í upplýstum leitaragentum.
Hann segir að til að nýta gervigreindartækni á ábyrgan hátt þurfi fólk að geta treyst tækninni og þar með ákvörðunum sem slík kerfi taka sjálfkrafa.
Eins og staðan er í dag skortir töluvert upp á þann þátt. Rannsóknarsvið útskýranlegrar gervigreindar hefur því farið vaxandi í mikilvægi, þar sem það fæst einmitt við þessa áskorun: að gera ákvarðanir teknar af gervigreind gegnsærri og þar með traustverðugri.
Segir Yngi og útskýrir að gervigreindarkerfi taki í auknum mæli sjálfstæðar ákvarðanir og því sé mikilvægt að þær séu traustverðugar. Helst ættu kerfi að geta útskýrt rökin að baki hverri ákvörðun.
Í flóknari ákvörðunartökuverkefnum byggja slík kerfi oft á tveimur þáttum: leit (þar sem mismunandi sviðsmyndir eru skoðaðar) og forþjálfuðum gervigreindarlíkönum, svo sem tauganetum. Í dag er þekkt, a.m.k. að hluta, hvernig má útskýra niðurstöður úr líkönunum einum sér en það skortir aðferðir til að útskýra ákvarðanir sem sameina bæði leit og líkön.
Meginmarkmið verkefnisins er því að rannsaka og þróa slíkar aðferðir og jafnframt að skoða hvort þær geti leitt til skilvirkari þjálfunar gervigreindarlíkana.
Við höfum þegar unnið að þessum rannsóknum í nokkur ár og birt greinar, sem vakið hafa umtalsverða athygli, á nokkrum af fremstu gervigreindarráðstefnum heims. Styrkurinn gerir okkur kleift að halda þeirri vinnu áfram, ekki síst með því að ráða tvo nýja doktorsnema í verkefnið. Verkefnið er unnið í samstarfi við tvo virta evrópska háskóla sem eru einnig með leiðandi rannsóknarhópa á þessu sviði.
Segir Yngi að lokum.
Sjá nánar um styrki úr Rannsóknasjóði Rannís 2026:
Dagsetning
Deila