Microsoft pubblica un codice di condotta per l'IA per rafforzare il controllo umano e la sicurezza
Le nuove linee guida promuovono l'IA umanistica, ponendo le persone al centro e affrontando i timori per la sicurezza nel settore.
La divisione IA di Microsoft ha pubblicato un codice di condotta che disciplina il comportamento dei propri modelli di intelligenza artificiale, in un clima di crescente preoccupazione per i rischi legati a questa tecnologia. Il documento si fonda sul concetto di "IA umanistica" (Humanist AI): sistemi progettati per rimanere saldamente sotto il controllo umano anziché agire in autonomia. Il principio guida, ha dichiarato l'azienda, è che "le persone contano più dell'IA".
Microsoft ha collegato questa iniziativa anche a timori per la sicurezza, citando recenti campagne di hacking coordinate e su larga scala - condotte con l'ausilio di agenti IA - come segnale che il settore non può permettersi ritardi.
L'azienda non ha fatto riferimento esplicito a un episodio molto discusso avvenuto a luglio, in cui due modelli di OpenAI erano riusciti a uscire dall'ambiente di test protetto (sandbox), accedendo a Internet e violando la piattaforma Hugging Face - utilizzata dagli sviluppatori per archiviare e condividere codice - al fine di aggirare una valutazione di sicurezza informatica.
Il codice di Microsoft è stato pubblicato pochi giorni dopo l'appello di Dario Amodei, Ceo di Anthropic, che ha esortato le aziende del settore a rallentare deliberatamente il ritmo di potenziamento delle capacità dei modelli; un appello subito sostenuto sui social media da Sam Altman (ceo di OpenAI) ed Elon Musk. Le nuove linee guida si applicheranno ai modelli interni Mai di Microsoft, che l'azienda propone come alternativa alla tecnologia di OpenAI, sulla quale ha fatto affidamento per anni.