Ingegneri software Samsung arrestati per aver incollato codice proprietario in ChatGPT

Diversi dipendenti dell'azienda coreana di semiconduttori di Samsung hanno inserito righe di codice riservato in ChatGPT, facendo trapelare segreti aziendali che potrebbero essere inclusi nelle future risposte del chatbot ad altre persone in tutto il mondo.

Un dipendente ha copiato il codice sorgente difettoso da un database di semiconduttori nel chatbot e gli ha chiesto di identificare una soluzione, secondo(Si apre in una nuova finestra) The Economist Korea. Un altro dipendente ha fatto lo stesso per un'apparecchiatura diversa, richiedendo "l'ottimizzazione del codice" da ChatGPT. Dopo che un terzo dipendente ha chiesto al modello AI di riassumere gli appunti della riunione, i dirigenti Samsung sono intervenuti. L'azienda ha limitato la richiesta di ciascun dipendente a ChatGPT a 1.024 byte.

Solo tre settimane prima, Samsung aveva revocato il divieto per i dipendenti di utilizzare ChatGPT a causa delle preoccupazioni relative a questo problema. Dopo i recenti incidenti, si sta valutando la possibilità di reintrodurre il divieto, nonché di adottare misure disciplinari per i dipendenti, afferma The Economist Korea.

"Se si verificasse un incidente simile anche dopo l'adozione di misure di emergenza per la protezione delle informazioni, l'accesso a ChatGPT potrebbe essere bloccato sulla rete aziendale", si legge in una nota interna. "Non appena il contenuto viene inserito in ChatGPT, i dati vengono trasmessi e archiviati su un server esterno server, rendendo impossibile per l’azienda recuperarlo.”

La guida per l'utente di OpenAI(Si apre in una nuova finestra) mette in guardia gli utenti da questo comportamento: "Non siamo in grado di eliminare richieste specifiche dalla cronologia. Non condividere informazioni sensibili nelle tue conversazioni." Dice che il sistema utilizza tutte le domande e i testi inviati come dati di addestramento.

L'uso di ChatGPT per trovare e correggere il codice difettoso è diventato pervasivo nell'ingegneria del software. Se gli utenti pongono una domanda sulla codifica, tenta di identificare la soluzione e fornisce uno snippet di codice con un pulsante copia e incolla con un clic. Apparentemente la conoscenza della programmazione del chatbot è sufficiente per essere assunto presso Google come ingegnere entry-level.

Ciò può sostituire il tempo (a volte ore) che gli ingegneri trascorrono navigando su siti come Stack Overflow, una risorsa popolare per la risoluzione dei problemi. A testimonianza degli elevati tassi di utilizzo di ChatGPT da parte degli ingegneri del software, Stack Overflow ha vietato(Si apre in una nuova finestra) le risposte generate da ChatGPT pochi giorni dopo il suo rilascio il 30 novembre 2022 a causa delle preoccupazioni relative a risposte imprecise che sembrano credibili.

"Il problema principale è che, sebbene le risposte prodotte da ChatGPT abbiano un alto tasso di errori, in genere sembrano valide e le risposte sono molto facili da produrre", afferma Stack Overflow in un post aggiornato quattro giorni fa. "Il volume di queste risposte (migliaia)... ha effettivamente sommerso la nostra infrastruttura di cura della qualità basata sui volontari."

Secondo quanto riferito, Samsung sta valutando la possibilità di costruire una propria intelligenza artificiale per prevenire futuri incidenti, anche se gli ingegneri potrebbero probabilmente aggirare qualsiasi misura utilizzando ChatGPT sui dispositivi personali. Microsoft Bing e Google Bard possono anche rilevare bug nelle righe di codice, quindi vietare ChatGPT non è una soluzione a prova di proiettile.

Iscriviti subito a Novitàper ricevere le nostre storie principali direttamente nella tua casella di posta ogni mattina.

Questa newsletter può contenere pubblicità, offerte o link di affiliazione. L'iscrizione a una newsletter indica il tuo consenso ai nostri Termini di utilizzo e Informativa sulla privacy. Potrai cancellarti dalle newsletter in qualsiasi momento.

La tua iscrizione è stata confermata. Tieni d'occhio la tua casella di posta!