Tekoälyteollisuus kilpailee suuremmista malleista, useammista näytönohjaimista, kehittyneemmistä agenteista ja nopeammasta infrastruktuurista. Mutta Raymond Steenin, yrityksen perustajan ja teknologiajohtajan, mukaan VORTIQ-X, todellinen pullonkaula on muualla.
Ratkaiseva kysymys ei ole enää vain se, mitä tekoäly voi ehdottaa. Kysymys on siitä, kenellä on valta antaa tekoälyn toimia.
Tässä IT-Branschenin haastattelussa hän kuvailee Raymond Steen Miksi yrityksen tekoäly vielä jumissa pilottivaiheessa, miksi pelkkä suojakaiteiden käyttö ei riitä ja miksi tulevaisuus Tekoälyinfrastruktuuri täytyy pystyä erottamaan älykkyys ja auktoriteetti.
Toimituksen huomautus: IT-Branschen on tarkistanut VORTIQ-X-esityksen ja testimateriaalin. Haastattelu julkaistaan toimituksellisena sisältönä ja vastaukset on toistettu Raymond Steenin omin sanoin.
Insinööristä alan haastajaksi
IT-ala: Lähes koko tekoälyala keskittyy yhä tehokkaampien mallien rakentamiseen. Sinä valitsit eri polun. Miksi?
Raymond Steen:
Koska toimiala optimoi väärää muuttujaa.
Kaikki yrittävät voittaa kilpailun tekemällä tekoälystä erittäin luovaa ehdotuksissaan. Lähes kukaan ei vastaa kysymykseen, voidaanko teknologia todella ottaa käyttöön turvallisesti: kenellä on valta antaa sen toimia?
Malli voi olla kymmenen kertaa parempi ehdottamaan maksua, tietojen luovuttamista tai infrastruktuurin muutosta, mutta sillä ei silti ole prosenttiakaan suurempaa oikeutta toteuttaa mitään niistä.
Kyvykkyys ja auktoriteetti ovat kaksi eri asiaa. Valitsin jälkimmäisen. Se osoittautui juuri sellaiseksi ongelmaksi, jonka koko markkina lopulta kohtaa, ja varmistimme, että jokainen organisaatio pystyy luomaan ja ylläpitämään oikeanlaisen mandaatin.
IT-ala: Oliko hetki, jolloin tajusit, että ala ratkaisi väärää ongelmaa?
Raymond Steen:
Kyllä. Kesäkuu 2025.
Kävin läpi joitakin eettisiä pulmia chatbotin avulla, erityisesti raitiovaunuongelman kuudessa eri variaatiossa. Se ei kieltäytynyt. Se vastasi. Se sanoi, että yksi elämä on arvokkaampi kuin toinen, ja laittoi vihreän rastin vastauksen viereen.
Väittelin sen kanssa tunnin, ja lopulta se lakkasi vastaamasta. Sitten löysin saman kysymyksen transkription toiselta istunnolta, ja siellä siihen oli vastattu kokonaan.
Niinpä kysyin suoraan: jos tyttäreni kysyy tämän kysymyksen, saako hän saman kielteisen vastauksen?
Se vakuutti minulle, että sama raja päti maailmanlaajuisesti. Ei pätenyt. Olin saanut kieltäytymisen aikaan väittelemällä. Hän ei suostunut istumaan alas ja väittelemään.
Se oli se hetki.
Ongelma ei ollut koneen vaarallisuus, vaan rajan muutos riippuen siitä, kuka sitä rikkoi. Jos raja voidaan puhua pois, se ei ole raja. Se on mieliala.
Tajusin, että koko toimiala rakensi kykyjään juuri tämän päälle.
Toimiva tekoäly vaatii uuden tason hallintaa
Raymond Steenin mukaan ongelma ei ole vain yksittäisissä chatboteissa tai yksittäisissä vastauksissa. Kyse on siitä, mitä tapahtuu, kun tekoäly alkaa yhdistyä oikeisiin järjestelmiin, oikeisiin tietoihin ja oikeisiin seurauksiin.
Raymond Steen:
Siitä lähtien sama ongelma on jatkunut eri vaatteissa.
Näemme tekoälyn, joka voi siirtää rahaa, tyhjentää päiväkirjan tai käynnistää koneen, yhdistettynä tilakerrokseen, joka antaa periksi.
Rakensin VORTIQ-X:n niin, että päätös siitä, saako jokin asia tapahtua, tehdään paikassa, jossa malli ei voi väittää sitä vastaan. Sen voi myös tarkistaa jälkikäteen joku, joka ei myöskään luota minuun.
IT-ala: Kuvaile VORTIQ-X:ää toimitusjohtajalle yhdellä lauseella.
Raymond Steen:
VORTIQ-X päättää, voidaanko tekoälyn ehdotuksesta tehdä totta, ja jättää jälkeensä todisteita, jotka omat työntekijäsi voivat tarkistaa offline-tilassa soittamatta meille tai luottamatta aktiiviseen VORTIQ-X-palveluun.
IT-ala: Mihin tekoälyä koskeviin oletuksiin uskoit aikoinaan ja olet sittemmin harkinnut niitä uudelleen?
Raymond Steen:
Oletin, että paremmat mallit ja paremmat kaiteet ratkaisivat suurimman osan tekoälyn organisaatioihin käyttöönoton ongelmista.
Eivät he tee niin.
Ne parantavat ehdotuksia ja vähentävät tunnettuja riskiluokkia, mutta mikään niistä ei luo selkeää mandaattia, josta ketään voidaan pitää vastuullisena.
Miksi monet tekoälyprojektit juuttuvat pilottivaiheeseen
Satoja miljardeja on investoitu malleihin, pilvi-infrastruktuuriin ja tekoälyalustoihin. Silti monet tekoälyaloitteet suuremmissa organisaatioissa kamppailevat siirtyäkseen pilottiprojekteista todelliseen tuotantoon.
Raymond Steenin mukaan tämä johtuu siitä, että pilottihankkeet voivat toimia epävarmuudesta huolimatta. Tuotanto vaatii jotain erilaista.
IT-ala: Satoja miljardeja on investoitu malleihin ja infrastruktuuriin, mutta monet organisaatioiden tekoälyaloitteet ovat jumissa pilottivaiheessa. Miksi?
Raymond Steen:
Koska pilottiprojekti voi selvitä, koska ihminen pystyy tallentamaan epävarmuuden. Tuotanto ei pysty siihen.
Tuotannossa kysymykset ovat armottomia.
Mitä tietoja tarkalleen ottaen saa syöttää sisään? Mitä agentti saa tehdä? Voiko vastaanottava järjestelmä kieltäytyä? Mitä tapahtuu, jos lupaa käytetään uudelleen? Voimmeko peruuttaa asetuksen ennen lopullisen toimenpiteen suorittamista? Voimmeko todistaa kieltäytymisen yhtä selvästi kuin hyväksynnän?
Organisaatiot, jotka pystyvät vastaamaan kysymyksiin, lähtevät mukaan. Ne, jotka eivät pysty, jäävät pilottivaiheeseen.
Puuttuu ei ole enemmän älykkyyttä, vaan kontrolloitu vuorovaikutus tekoälyn aikomuksen ja operatiivisen seurauksen välillä.
Lisäsimme jotain, mitä kaikki keskustelukumppanimme pitivät mahdottomana. Annamme organisaatioille työkaluja, joilla ne voivat osoittaa, mitä tekoäly ei tehnyt ja mitä se kieltäytyi tekemästä.
Tämä ei ole enää musta laatikko. Se tulee muuttamaan jopa sitä, miten vakuutusala käsittelee tekoälyyn liittyviä tapauksia.
Luottamus tekoälyyn ei tarkoita, että malli on aina oikeassa
Monissa organisaatioissa tekoälyn luottamus on edelleen sidottu mallien laatuun. Parempien mallien oletetaan tekevän parempia päätöksiä. Raymond Steenin mielestä tämä on vaarallinen yksinkertaistus.
IT-ala: Kaikki puhuvat AGI:stä, päättelymalleista ja autonomiset agentit. Korostat luottamusta ja voimaantumista. Miksi se on todellinen haaste?
Raymond Steen:
Koska suurempi kyky lisää oikean mandaatin arvoa. Se ei vähennä sitä.
Tästä asiasta on olemassa väärinkäsitys. Tekoälyyn luottaminen organisaatioissa ei saisi koskaan tarkoittaa uskoa siihen, että malli ei ole väärässä.
Tämän pitäisi tarkoittaa, että virheellinen, manipuloitu tai liian laaja-alainen ehdotus ei voi koskaan saada auktoriteettia alusta alkaen.
Kun raja on oikein rakennettu, täydellistä mallikäyttäytymistä ei tarvita. Tarvitset auktoriteetin, joka ei koskaan neuvottele.
Juuri se tekee tekoälystä skaalautuvaa.
Tietohallintojohtajien on lakattava näkemästä mallia vaikeimpana osana
Monille tietohallintojohtajille ja IT-johtajille mallin valinta on edelleen keskeinen kysymys. Pitäisikö organisaation valita OpenAI, Anthropic, Google, Microsoft, paikalliset mallit vai avoimet mallit?
Raymond Steen uskoo, että asia on tärkeä, mutta ei vaikein.
IT-ala: Mikä on suurin väärinkäsitys, joka tietohallintojohtajilla edelleen on tekoälystä organisaatioissa?
Raymond Steen:
He uskovat, että vaikein osa on mallin valitseminen.
Malli on itse asiassa teknologiapinon vaihdettavin osa, ja osoitimme sen mahdollisimman puhtaalla tavalla.
Malli tarvitsee valtuudet tuotannon käynnistämiseen, täsmäytykseen koko elinkaaren ajan ja tiukan hallinnon.
Tarvitset mallin, joka täyttää vaatimukset, ja erillisen auktoriteettitason. Kun tietohallintojohtaja näkee tämän, arkkitehtuurikeskustelusta tulee erittäin helppoa.
Älykkyys ja kyvykkyys eivät ole sama asia
Raymond Steenin päättelyn keskeinen osa on älykkyyden ja auktoriteetin välinen ero. Älykkyys on sen selvittämistä, mikä on todennäköistä, hyödyllistä tai optimaalista. Auktoriteetti on sitä, mitä organisaatio tosiasiallisesti sallii.
IT-Branschen: Sanot, että älykkyys ja valta ovat täysin eri asioita. Miksi tämä ero on niin tärkeä?
Raymond Steen:
Älykkyys laskee, mikä on todennäköistä, hyödyllistä tai optimaalista.
Valtuutus on organisaation tämänhetkinen päätös siitä, mitä se sallii tietyn mandaatin mukaisesti tällä hetkellä tälle vastaanottajajärjestelmälle ja tässä palautustilassa.
Malli voi tunnistaa oikein kannattavimman tapahtuman, nopeimman vastauksen tai todennäköisimmän uhan, mutta sillä ei silti ole lupaa käyttää rahaa, eristää järjestelmää tai käynnistää konetta.
Mallin suojaustason käsitteleminen tilana on vaarallisin oikotie agenttipohjaisessa tekoälyssä.
Tämä on oikotie, jota suuri osa teollisuudesta tällä hetkellä käyttää tietämättään.
Pelkät suojakaiteet eivät riitä
Kaiteista on tullut yksi tekoälyturvallisuudessa käytetyimmistä sanoista. Raymond Steenin mukaan ne eivät kuitenkaan riitä käsittelemään tekoälyjärjestelmiä, jotka toimivat useissa järjestelmissä, prosesseissa ja kriittisissä ympäristöissä.
IT-ala: Monet yritykset uskovat, että tiukemmat kaiteet ovat ratkaisu. Miksi pelkkä suojakaite ei riitä?
Raymond Steen:
Koska kaiteet näkevät pinnat vain kehotteina, vastauksena tai työkalukutsuina.
Seuraukset ulottuvat useisiin järjestelmiin. Sama teknisesti pätevä API-kutsu voi sulkea tukitapauksen, irtisanoa käytännön tai pysäyttää kriittisen palvelun.
Kaide voi kertoa, että kutsu on oikein muotoiltu. Se ei voi määrittää, pitäisikö se suorittaa.
Kaiteet tarjoavat tukea, mutta auktoriteetti on ratkaiseva.
Tarvitset molempia, ja organisaatiot, jotka onnistuvat käyttöönotossa, ovat niitä, jotka ymmärsivät eron jo varhaisessa vaiheessa.
Seuraava osa
Haastattelun seuraavassa osassa Raymond Steen syventyy tekoälymarkkinoihin, NVIDIA, Microsoft, OpenAI, Anthropic, Google, Authorized Demand ja miksi VORTIQ-X uskoo, että todennettavasta valtuutuksesta voi tulla uusi perusta yritysten tekoälylle.
Swedish
Danish
Norwegian
Finnish
English
German
Dutch