„Nvidia“ išleidžia tris naujas NIM mikropaslaugas arba mažas nepriklausomas paslaugas, kurios yra didesnių programų dalis, kad padėtų įmonėms įdiegti papildomas kontrolės ir saugos priemones savo AI agentams.
Viena iš šių naujų NIM paslaugų skirta turinio saugai ir siekia užkirsti kelią AI agentui generuoti žalingus ar šališkus rezultatus. Kitas tikslas yra išlaikyti pokalbius tik patvirtintomis temomis, o trečioji nauja paslauga padeda apsaugoti AI agentą nuo bandymų įsilaužti į jail arba pašalinti programinės įrangos apribojimus.
Šios trys naujos NIM mikropaslaugos yra „Nvidia NeMo Guardrails“ – esamos „Nvidia“ atvirojo kodo programinės įrangos įrankių ir mikropaslaugų rinkinio, skirto padėti įmonėms tobulinti dirbtinio intelekto programas, dalis.
„Taikydami kelis lengvus, specializuotus modelius kaip apsauginius turėklus, kūrėjai gali padengti spragas, kurios gali atsirasti, kai egzistuoja tik bendresnė pasaulinė politika ir apsauga, nes universalus metodas tinkamai neapsaugo ir nekontroliuoja sudėtingų AI darbo eigų, “, – rašoma pranešime spaudai.
Atrodo, kad dirbtinio intelekto įmonės gali suprasti, kad priversti įmones pritaikyti savo DI agento technologiją nebus taip paprasta, kaip iš pradžių manė. Nors tokie žmonės kaip „Salesforce“ generalinis direktorius Marcas Benioffas neseniai prognozavo, kad per ateinančius 12 mėnesių vien iš „Salesforce“ pasitrauks daugiau nei milijardas agentų, realybė tikriausiai atrodys šiek tiek kitaip.
Neseniai atliktas Deloitte tyrimas prognozavo, kad apie 25 % įmonių jau naudoja dirbtinio intelekto agentus arba tikisi, kad 2025 m. Ataskaitoje taip pat prognozuojama, kad iki 2027 m. maždaug pusė įmonių naudosis agentais. Tai rodo, kad nors įmonės aiškiai domisi dirbtinio intelekto agentais, jos netaiko dirbtinio intelekto technologijų tokiu pat tempu, kaip DI erdvėje vyksta naujovės.
Tikėtina, kad „Nvidia“ tikisi, kad dėl tokių iniciatyvų AI agentų priėmimas atrodys saugesnis ir mažiau eksperimentinis. Laikas parodys, ar tai iš tikrųjų tiesa.
