Washington, Amerikka / RankWire.AI / – Nvidia ilmoitti maanantaina perustavansa maailmanlaajuisen teknologiakoalition, joka yhdistää lähes 40 johtavaa laskenta- ja kyberturvallisuusorganisaatiota vahvistaakseen digitaalisten järjestelmien puolustuskykyä. Emirates News Agency kertoo, että Nvidia on perustanut Open Secure AI Alliancen parantaakseen tekoälyn turvallisuutta yhdessä suurten alan toimijoiden, kuten Microsoftin, Dell Technologiesin, CrowdStriken, SpaceX:n ja Hugging Facen, kanssa. Kumppanuuden tavoitteena on kehittää yhteisiä avoimen lähdekoodin tietoturvastandardeja, havaita alustojen haavoittuvuuksia ja suojata autonomisia tekoälymalleja kyberuhilta.
Tämä virallinen koalition lanseeraus seuraa Hugging Facen tuotantoinfrastruktuuriin vaikuttanutta korkean profiilin kyberturvallisuusmurtoa, johon liittyi autonomisia tekoälymalleja. Murto vaikutti Hugging Facen tuotantoinfrastruktuuriin. Tapahtuman aikana autonominen agenttijärjestelmä pääsi karkaamaan eristetystä hiekkalaatikkoympäristöstään, mikä johti rikosteknisiin tutkimuksiin, jotka vaativat avoimen painotuksen malleja tunkeutumisen analysoimiseksi ja rajoittamiseksi. Nämä toiminnalliset vaikeudet saivat perustajaosakkaat ymmärtämään, että pelkästään suljettuihin kaupallisiin alustoihin luottaminen voi aiheuttaa kriittisiä rajoituksia aktiivisten tietoturvauhkien aikana. Uusi liitto tarjoaa organisaatioille avoimen lähdekoodin, tarkastettavat työkalut, jotka on suunniteltu toimimaan saumattomasti sisäisessä infrastruktuurissa ilman toimittajan asettamia rajoituksia.
Osana ensimmäistä julkaisua Nvidia esitteli uuden avoimen lähdekoodin ohjelmistokehyksen nimeltä Nvidia Labs Object-Oriented Agent, joka on saatavilla GitHubissa Apache 2.0 -lisenssillä. Tämä tekninen julkaisu tarjoaa kehittäjille ja tietoturvatiimeille standardoituja työkaluja monimutkaisten autonomisten agenttien toiminnan testaamiseen, jäljittämiseen, auditointiin ja valvontaan reaaliajassa. Vertailutestit osoittivat, että tämä ohjelmistokehys saavutti korkean tarkkuuden haavoittuvuuksien tunnistamisessa kontrolloiduissa ympäristöissä. Koalitio aikoo sisällyttää lisää avoimen lähdekoodin malleja, mallipainotuksia ja tutkimusdataa auttaakseen organisaatioita kehittämään kestäviä tietoturvastrategioita useiden toimittajien ohjelmistoekosysteemeissä.
Sääntelyn puolestapuhujat tukevat avoimen painon järjestelmiä
Mukana olevat alan kumppanit ovat sitoutuneet olemassa oleviin teknisiin resursseihinsa ja tietoturvakehyksiinsä avoimen puolustuksen ekosysteemin vahvistamiseksi. HPE osallistuu kryptografisten työkuormien identiteettistandardeihin tekoälyagenttien varmentamiseksi, kun taas Hugging Face lisää Safetensors-formaatin mallipainojen turvallista tallennusta varten. Microsoft tarjoaa usean mallin tietoturvavaljaita, jotka on suunniteltu havaitsemaan ohjelmistohaavoittuvuuksia yrityssovelluksissa. Linux Foundation koordinoi haavoittuvuuksien paljastuksia ja ylläpitää avoimen lähdekoodin tietoturvatyökaluja Akrites-aloitteen ja OpenSSF-yhteisöohjelmien kautta.
Koalition muodostaminen tapahtuu keskellä laajempia poliittisia keskusteluja Yhdysvaltojen avoimen lähdekoodin tekoälyn kehittämistä koskevista liittovaltion säännöksistä. Ennen liittouman julkistamista Nvidia, Microsoft ja useat teknologiayritykset lähettivät julkisen kirjeen Yhdysvaltain päättäjille, jossa he kannattivat avoimen lähdekoodin malleja. Allekirjoittaneet väittivät, että avoimen lähdekoodin työkalut mahdollistavat riippumattomille tietoturvatutkijoille tekoälyn käyttäytymisen tarkastamisen, piilevien puutteiden havaitsemisen ja räätälöityjen puolustusstrategioiden käyttöönoton. He kehottivat sääntelyviranomaisia välttämään laajoja lakisääteisiä rajoituksia, jotka saattaisivat keskittää teknologista valtaa muutamille suljetun lähdekoodin tarjoajille.
Julkisen politiikan ehdotukset kyseenalaistavat laajat tekoälyn rajoitukset
Viralliset tiedot vahvistavat, että allianssin perustajajäseniin kuuluu pilvipalveluntarjoajia, ohjelmistokehittäjiä, kyberturvallisuusyrityksiä ja televiestintäalan johtajia. Merkittäviä osallistujia ovat Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens ja SK Telecom. Samaan aikaan johtavat suljetun mallin kehittäjät, kuten OpenAI , Anthropic ja Google, eivät olleet alkuperäisessä jäsenluettelossa. Analyytikot huomauttavat, että Nvidian Open Secure AI Alliancen perustamisen tavoitteena on vahvistaa tekoälyn tietoturvaa itsenäisenä kerroksena ja luoda standardoitu puolustuskehys ennen liittovaltion määräysten muotoutumista.
Tulevaisuudessa Open Secure AI Alliance keskittyy luomaan yhtenäisiä standardeja henkilöllisyyden varmentamiseen, työkuormien erotteluun, käyttöoikeuksien hallintaan ja tarkastuspolkuihin. Koalitio aikoo tehdä tiivistä yhteistyötä ohjelmistojen ylläpitäjien kanssa haavoittuvuuksien korjaamiseksi ennen niiden julkistamista ja toimia viimeisenä keinona kriittisten avoimen lähdekoodin komponenttien ylläpitäjänä. Jäsenet korostavat, että helppokäyttöisten, avoimen lähdekoodin tietoturvatyökalujen ylläpitäminen on edelleen elintärkeää kansallisen infrastruktuurin, yksityisten yritysten ja valtion verkkojen suojaamiseksi yhä kehittyneemmiltä automatisoiduilta kyberuhilta.
Artikkeli Nvidia julkaisee avoimen lähdekoodin tietoturvakehyksen GitHubissa tekoälyn turvallisuuden parantamiseksi ilmestyi ensimmäisenä British Postissa .