Google on tehnyt muutoksia tekoälypolitiikkaansa luopumalla hiljaa lupauksestaan olla käyttämättä teknologiaa aseissa tai valvontasovelluksissa. Viime aikoihin asti yritys oli vakaasti välttänyt tällaista tekoälyn käyttöä, mikä sai aikaan vastareaktiota sekä organisaation sisällä että sen ulkopuolella.
Muutoksen havaitsivat useat asiantuntijat ja erikoismediat, koska Google ei antanut nimenomaista ilmoitusta tämän sitoumuksen poistamisesta. Muutos on tulkittu a Mahdollinen osoitus yrityksen suuremmasta halukkuudesta tehdä yhteistyötä hallitusten ja sotilasyksiköiden kanssa, tilanteessa, jossa tekoälystä on tulossa keskeinen osa turvallisuutta ja puolustusta.
Mitkä säännöt ovat muuttuneet Googlelle?
Vielä muutama päivä sitten Googlen tekoälyperiaatteiden asiakirjassa oli osio "Sovellukset, joita emme käsittele", jossa yritys ilmoitti, ettei se suunnittele tai ota tekoälyä käyttöön:
- Aseet tai muut tekniikat jonka tarkoituksena oli aiheuttaa vahinkoa ihmisille.
- valvontatyökalut jotka rikkovat kansainvälisiä ihmisoikeusnormeja.
- Sovellukset, jotka ovat vastoin yleisesti hyväksyttyjä periaatteita kansainvälisestä oikeudesta.
Äskettäinen päivitys poisti kuitenkin kyseisen osion kokonaan jättäen pois nimenomaisen lausunnon tekoälyn sotilaallista käyttöä vastaan. Sen sijaan Google on korostanut sitä sitoutuminen vastuulliseen kehittämiseen tämän tekniikan, vaikka sen soveltamiselle ei määritellä selkeitä rajoituksia.
Taustaa: Maven-projektin tapaus
Tämä säätö Googlen käytäntöön muistuttaa kiistanalaista Maven projekti (linkki Wikipediaan), Pentagonin aloite, johon yritys osallistui tarjoamalla tekoälyteknologiaa konfliktialueilla käytettävien droonien kuvien analysoimiseen. Osallistuminen tähän projektiin aiheutti a voimakasta hylkäämistä yrityksen sisällä, jossa yli 4.000 2018 työntekijää allekirjoitti vetoomuksen, jossa vaaditaan Googlea luopumaan sopimuksesta. Lopulta yhtiö päätti olla uusimatta sitä vuonna XNUMX.
Siitä lähtien Google on yrittänyt asemoida itsensä vastuullisena toimijana tekoälyn kehittämisessä. Monet kuitenkin ihmettelevät sitä, että sen politiikasta on poistettu nimenomaiset rajoitukset jos yritys harkitsee kantaansa uudelleen ja jälleen avautuminen puolustusalan yhteistyölle.
Google muuttuvassa geopoliittisessa maisemassa
Muutos Googlen asenteessa tapahtuu a kilpailun lisääntyessä tekoälyn alalla, jossa hallitukset ja teknologiayritykset pyrkivät asettumaan johtajiksi. Käytännön päivityksestä ilmoittavassa virallisessa lausunnossa Googlen tekoälykehittäjät Demis Hassabis ja James Manyika sanoivat:
«Uskomme, että demokratioiden tulee johtaa tekoälyn kehitystä perusarvojen, kuten vapauden, tasa-arvon ja ihmisoikeuksien kunnioittamisen, ohjaamana.".
Yhtiö myös huomautti asiasta toimii yhteistyössä hallitusten ja järjestöjen kanssa jotka jakavat nämä arvot varmistaakseen, että tekoälyä käytetään tavoilla, jotka hyödyttävät yhteiskuntaa.
Mihin Google on menossa?
Vaikka yritys vaatii, että sen prioriteetti on edelleen tekoälyn eettinen kehitys, poistamalla sen nimenomaisen sitoumuksensa aseiden käyttöä ja valvontaa vastaan avaa uusia kysymyksiä teknologiansa tulevaisuuden suunnasta. Mahdolliset sopimukset sotilassektorin kanssa tai sopimukset hallitusten kanssa tekoälyn käytöstä turvatoimissa ovat skenaarioita, jotka näyttävät nyt toteuttamiskelpoisemmilta.
Viime vuosina yritykset, kuten OpenAI, Microsoft ja Meta, ovat lisänneet investointejaan tekoälyyn ja luoneet erittäin kilpailukykyisen ympäristön, joka pakottaa kaikki suuret teknologiayritykset etsimään uusia mahdollisuuksia. Ilman yhtä selkeä rajoitusGoogle saattaa jättää oven auki tutkiakseen alueita, joita se oli aiemmin luvannut välttää.
Keskustelu tekoälyn roolista armeijassa ei ole läheskään ohi. Vaikka Jotkut väittävät, että sen käyttö voi parantaa turvallisuutta ja puolustusta., Toiset varoittavat hyökkäys- ja valvontajärjestelmien automatisoinnin riskeistä ilman asianmukaista sääntelyä.. Toistaiseksi varmaa on vain se, että Google on muuttanut pelisääntöjä, ja tämän päätöksen vaikutus näkyy vasta ajan myötä.