Connect with us

Intelligenza Artificiale

OpenAI impegno per la Sicurezza dei Bambini

Tempo di lettura: 2 minuti. OpenAI si impegna a implementare misure di sicurezza infantile nello sviluppo e manutenzione delle tecnologie di IA generativa

Pubblicato

in data

OpenAI
Tempo di lettura: 2 minuti.

OpenAI, insieme a leader del settore come Amazon, Anthropic, Civitai, Google, Meta, Metaphysic, Microsoft, Mistral AI e Stability AI, si è impegnata a implementare misure robuste di sicurezza infantile nello sviluppo, distribuzione e manutenzione delle tecnologie di intelligenza artificiale generativa, conformemente ai principi di Safety by Design in favore dei bambini. Questa iniziativa, guidata da Thorn, un’organizzazione non profit dedicata alla protezione dei bambini dall’abuso sessuale, e da All Tech Is Human, che si occupa di risolvere problemi complessi tra tecnologia e società, mira a mitigare i rischi che l’IA generativa può rappresentare per i bambini.

Dettagli dell’impegno

Adottando i principi di Safety by Design, OpenAI e i suoi colleghi assicurano che la sicurezza dei bambini sia una priorità in ogni fase dello sviluppo dell’IA. Gli sforzi finora compiuti includono minimizzare la possibilità che i modelli generino contenuti che possano danneggiare i bambini, impostare restrizioni di età per ChatGPT e collaborare attivamente con il National Center for Missing and Exploited Children (NCMEC), la Tech Coalition e altri stakeholder governativi e industriali su questioni di protezione dell’infanzia e miglioramenti dei meccanismi di segnalazione.

Principi specifici di Safety by Design:

  1. Sviluppo:
    • Sviluppare, costruire e addestrare modelli di IA generativa che affrontino proattivamente i rischi per la sicurezza dei bambini.
    • Fonti responsabili per i set di dati di addestramento, rilevamento e rimozione di materiali di abuso sessuale su minori (CSAM) e materiali di sfruttamento sessuale di minori (CSEM) dai dati di addestramento, e segnalazione di qualsiasi CSAM confermato alle autorità competenti.
    • Incorporare cicli di feedback e strategie di stress-testing iterativi nel processo di sviluppo.
    • Implementare soluzioni per affrontare l’uso malevolo.
  2. Distribuzione:
    • Rilasciare e distribuire modelli di IA generativa dopo che sono stati addestrati e valutati per la sicurezza infantile, fornendo protezioni durante tutto il processo.
    • Combattere contenuti e comportamenti abusivi, incorporando sforzi di prevenzione.
    • Incoraggiare la proprietà dello sviluppo in sicurezza per progettazione.
  3. Manutenzione:
    • Mantenere la sicurezza del modello e della piattaforma continuando a comprendere e rispondere ai rischi per la sicurezza dei bambini.
    • Impegnarsi a rimuovere nuovi materiali CSAM generati dall’IA creati da attori malevoli dalla nostra piattaforma.
    • Investire in ricerca e soluzioni tecnologiche future.
    • Combattere CSAM, AIG-CSAM e CSEM sulle nostre piattaforme.

Questo impegno rappresenta un passo importante nel prevenire l’uso improprio delle tecnologie di IA per creare o diffondere materiale di abuso sessuale su minori (AIG-CSAM) e altre forme di danno sessuale contro i bambini. Come parte del gruppo di lavoro, OpenAI ha anche concordato di rilasciare aggiornamenti sui progressi ogni anno.

Intelligenza Artificiale

Google AI Overview ha le allucinazioni: quale sarà il suo futuro?

Tempo di lettura: 2 minuti. Google AI Overview fornisce risposte AI con errori pericolosi. Google sta lavorando per migliorare la funzione, ma alcuni suggeriscono di sospenderla temporaneamente.

Pubblicato

in data

Google AI Overviews
Tempo di lettura: 2 minuti.

Recentemente, Google ha implementato una nuova funzionalità chiamata AI Overview nelle ricerche, che mira a fornire risposte generate dall’intelligenza artificiale alle query degli utenti, ma tuttavia, questa funzione ha prodotto risultati variabili, con alcuni errori che vanno dal bizzarro al pericoloso con le allucinazioni già viste in altri modelli. Ecco un’analisi di questi problemi e delle risposte di Google.

Problemi di allucinazioni con AI Overview

Gli utenti hanno riscontrato che AI Overview, una funzione lanciata da Google per migliorare le risposte nelle ricerche, ha fornito consigli inaccurati e, in alcuni casi, pericolosi. Alcuni esempi includono:

  • Consigli di Cucina: Un utente che cercava di far aderire il formaggio alla pizza è stato consigliato di aggiungere colla (consiglio estratto da un vecchio post su Reddit).
  • Salute e Sicurezza: Un altro utente ha ricevuto il suggerimento di mangiare una piccola pietra al giorno, tratto da un articolo satirico di The Onion.
  • Dichiarare che il pollo deve essere cotto a soli 102 gradi Fahrenheit.Affermazioni errate come l’esistenza di un “fluido per frecce” o suggerire di aggiungere olio per spegnere un incendio causato dall’olio.
  • Rischi per la Salute: In un caso estremo, un utente ha ricevuto il consiglio di bere urina ogni 24 ore e di lasciare un cane in una macchina calda, entrambi pericolosi e inaccurati.
  • Negare l’esistenza di paesi in Africa che iniziano con la lettera “K”.

Questi esempi mostrano che AI Overview può interpretare erroneamente il contenuto di fonti non affidabili o satiriche, portando a risultati che possono essere non solo sbagliati, ma anche dannosi.

Risposta di Google

Un portavoce di Google ha dichiarato che l’azienda sta prendendo “azioni rapide” per correggere gli errori e utilizzare questi esempi per migliorare i loro sistemi. Google sostiene che la maggior parte delle risposte fornite da AI Overview sono di alta qualità e includono link per approfondire ulteriormente sul web. Tuttavia, ammette che molti errori sono derivati da query insolite o esempi manipolati.

Riconoscimento del Problema da Parte di Pichai

Nell’intervista, Pichai ha ammesso che le “allucinazioni” prodotte dalla funzione “AI Summary” sono “difetti intrinseci” nei grandi modelli di linguaggio (LLM) che costituiscono il nucleo di questa tecnologia. Ha dichiarato che, nonostante gli sforzi continui degli ingegneri di Google per affrontare le varie risposte strane e incorrette generate dalla funzione, il problema rimane irrisolto.

Pichai ha anche sottolineato che “solo perché la funzione AI Summary a volte sbaglia non significa che non sia utile”. Ha affermato che Google ha fatto progressi nel migliorare le metriche di accuratezza fattuale della funzione rispetto all’anno scorso e che l’industria nel suo complesso sta migliorando, sebbene il problema non sia ancora risolto.

Problemi di Accuratezza e Analisi

Il modello di AI di Google funziona sintetizzando i contenuti dai risultati principali della ricerca, ma non sempre verifica l’accuratezza delle informazioni. Questo può portare a situazioni in cui consigli pericolosi vengono presentati come risposte valide. La mancanza di analisi critica del contenuto da parte dell’AI è una delle principali critiche mosse contro AI Overview.

Impatto sul Web Aperto

Un altro punto critico è che l’AI Overview potrebbe minare il web aperto. Gli autori di contenuti accurati e investigativi potrebbero perdere incentivo a scrivere se le loro informazioni vengono semplicemente riassunte e presentate da AI, senza che gli utenti visitino effettivamente le loro pagine e su questo argomento Matrice Digitale è uscita con una inchiesta molto dura sul tema.

Prospettive Future

Google sta lavorando per migliorare AI Overview dalle allucinazioni, ma alcuni suggeriscono che la funzione dovrebbe essere temporaneamente rimossa fino a quando non sarà più affidabile. Il rischio di danni causati da informazioni sbagliate è troppo alto per essere ignorato.

Prosegui la lettura

Intelligenza Artificiale

xAI: ‘Gigafactory of Compute’ con 100.000 GPU Nvidia H100

Tempo di lettura: 2 minuti. xAI di Elon Musk costruirà un supercomputer ‘Gigafactory of Compute’ con 100.000 GPU Nvidia H100 entro il 2025, per potenziare il chatbot AI Grok.

Pubblicato

in data

Xai logo
Tempo di lettura: 2 minuti.

Elon Musk, attraverso la sua startup di intelligenza artificiale xAI, ha annunciato un ambizioso progetto per costruire un supercomputer di dimensioni eccezionali, denominato ‘Gigafactory of Compute’. Questo supercomputer, destinato a potenziare il chatbot AI di xAI, Grok, sarà operativo entro l’autunno 2025 e potrebbe coinvolgere una collaborazione con Oracle.

Dettagli del Supercomputer

NVIDIA H100 Tensor Core GPUs: eccellenza nel generative AI e nuovi record in MLPerf

Il supercomputer di xAI utilizzerà fino a 100.000 GPU Nvidia H100 basate sull’architettura Hopper. Questo lo renderà almeno quattro volte più grande dei cluster GPU esistenti più grandi. Le GPU Nvidia H100, altamente richieste nel mercato dei data center AI, sono state difficili da ottenere l’anno scorso a causa della forte domanda. Nonostante ciò, Nvidia sta già preparando la spedizione delle sue GPU H200 e delle nuove GPU basate su Blackwell B100 e B200 per applicazioni AI e HPC.

Motivi della Scelta Tecnologica

Non è chiaro perché xAI abbia deciso di utilizzare una tecnologia di generazione precedente per il suo supercomputer del 2025, ma l’investimento hardware significativo riflette le ambizioni su larga scala di xAI. Elon Musk ha sottolineato che si ritiene personalmente responsabile della consegna puntuale del supercomputer, poiché il progetto è cruciale per lo sviluppo di modelli di linguaggio di grandi dimensioni.

Competizione nel Settore AI

xAI si posiziona come un concorrente diretto di giganti dell’AI come OpenAI e Google. Musk, co-fondatore di OpenAI, punta a rendere xAI un rivale formidabile nel campo dell’intelligenza artificiale. Il modello Grok 2 ha richiesto circa 20.000 GPU Nvidia H100 per l’addestramento, e le future iterazioni, come Grok 3, ne richiederanno fino a 100.000, secondo Musk.

Collaborazione e Investimenti

Anche se né xAI né Oracle hanno fornito commenti sulla collaborazione, il progetto del supercomputer evidenzia l’impegno di Musk nel superare i confini della tecnologia AI attraverso investimenti infrastrutturali sostanziali e partnership strategiche. Questo approccio mira a potenziare significativamente le capacità di xAI e a consolidare la sua posizione nel mercato.

Grok
Grok

La ‘Gigafactory of Compute’ di xAI rappresenta un passo ambizioso e significativo nel campo dell’intelligenza artificiale. Con l’uso di 100.000 GPU Nvidia H100, il supercomputer di xAI promette di spingere ulteriormente i limiti delle capacità AI, offrendo un’infrastruttura robusta per lo sviluppo di modelli di linguaggio avanzati e altre applicazioni AI innovative.

Prosegui la lettura

Intelligenza Artificiale

L’EDPB preoccupata sull’accuratezza dei dati di ChatGPT

Tempo di lettura: 2 minuti. L’EDPB solleva preoccupazioni sulla conformità di ChatGPT di OpenAI agli standard di accuratezza dei dati dell’UE

Pubblicato

in data

Edpb Logo
Tempo di lettura: 2 minuti.

Il Comitato Europeo per la Protezione dei Dati (EDPB) ha espresso preoccupazioni riguardo al chatbot ChatGPT di OpenAI. Il rapporto pubblicato dall’EDPB evidenzia che le misure adottate per garantire la trasparenza non sono sufficienti a rispettare i principi di accuratezza dei dati previsti dalle normative europee.

Indagini dei regolatori nazionali

Il gruppo di lavoro è stato istituito dai garanti della privacy nazionali europei a seguito delle preoccupazioni sollevate dalle autorità italiane sull’uso di ChatGPT. Sebbene le indagini siano in corso, non è ancora stata fornita una panoramica completa dei risultati. Il rapporto rappresenta una comprensione comune tra le autorità nazionali.

L’accuratezza dei dati è un principio fondamentale delle normative sulla protezione dei dati nell’UE. Il rapporto evidenzia la natura probabilistica del sistema di ChatGPT, che può portare a risultati parziali o falsi. Inoltre, il rapporto avverte che gli utenti potrebbero percepire le risposte di ChatGPT come accuratamente factuali, indipendentemente dalla loro reale accuratezza, ponendo potenziali rischi, soprattutto per quanto riguarda le informazioni su individui.

Conformità alle Normative Europee

Il rapporto della task force dell’EDPB guiderà le autorità per la protezione dei dati degli Stati membri (DPA) nelle loro indagini sulla conformità di OpenAI ai requisiti del Regolamento Generale sulla Protezione dei Dati (GDPR) dell’Unione Europea. Gli aspetti delle indagini includono la legalità della raccolta dei dati di addestramento per ChatGPT, la trasparenza e l’accuratezza dei dati.

Secondo Reuters, il rapporto chiarisce che ChatGPT non soddisfa gli standard di accuratezza dei dati richiesti per garantire la conformità alle normative europee. La task force ha aggiunto che l’approccio all’addestramento del modello può portare a risultati parziali o inventati e che l’accuratezza dei dati è uno dei principi guida delle regole del GDPR.

Azioni delle Autorità

Nell’aprile 2023, l’Italia ha vietato l’uso di ChatGPT a causa di preoccupazioni sulla privacy, ma ha reso nuovamente disponibile il servizio dopo che OpenAI ha affermato di aver soddisfatto le richieste dell’autorità per la protezione dei dati del paese. L’Italia è diventata il primo paese occidentale a vietare il chatbot dopo l’annuncio di un’indagine su una presunta violazione delle regole sulla privacy del GDPR e delle pratiche di verifica dell’età da parte di ChatGPT. In conclusione, il Comitato Europeo per la Protezione dei Dati ha sollevato serie preoccupazioni sulla conformità di ChatGPT agli standard di accuratezza dei dati dell’UE. Sebbene OpenAI abbia fatto sforzi per migliorare la trasparenza, il rapporto della task force dell’EDPB indica che è necessario fare di più per garantire l’accuratezza delle risposte di ChatGPT e proteggere i dati degli individui. I regolatori nazionali in tutta Europa continuano a indagare sulla questione, e l’esito di queste indagini avrà probabilmente implicazioni significative per il futuro di ChatGPT e altri chatbot AI nell’UE.

Prosegui la lettura

Facebook

CYBERSECURITY

Cloudflare Workers Cloudflare Workers
Sicurezza Informatica8 ore fa

Phishing con Cloudflare Workers: Phishing Trasparente e HTML Smuggling

Tempo di lettura: 2 minuti. Phishing con Cloudflare Workers: tecniche di evasione e phishing trasparente. Scopri le raccomandazioni di sicurezza...

Arc Browser Arc Browser
Sicurezza Informatica1 giorno fa

Attenzione al “falso” Browser Arc: malvertising in corso

Tempo di lettura: 2 minuti. Il browser Arc, sviluppato da The Browser Company, ha recentemente guadagnato popolarità grazie alle recensioni...

GitLab logo GitLab logo
Sicurezza Informatica3 giorni fa

Vulnerabilità ad alta gravità in GitLab permette controllo Account

Tempo di lettura: 2 minuti. GitLab corregge una vulnerabilità XSS ad alta gravità che permette agli attaccanti di prendere il...

Sicurezza Informatica3 giorni fa

Shrinklocker abusa di BitLocker per la cifratura dei dati

Tempo di lettura: 2 minuti. Il ransomware ShrinkLocker sta abusando di BitLocker per cifrare i dati e chiedere riscatti, e...

Sicurezza Informatica3 giorni fa

Google risolve l’ottavo Zero-Day di Chrome nel 2024

Tempo di lettura: 3 minuti. Google risolve l'ottavo zero-day di Chrome del 2024 con una patch di sicurezza: scopri l'importanza...

Sicurezza Informatica5 giorni fa

GHOSTENGINE: nuova minaccia cryptomining invisibile

Tempo di lettura: 2 minuti. Elastic Security Labs rivela GHOSTENGINE, un set di intrusioni sofisticato progettato per eseguire attività di...

Sicurezza Informatica6 giorni fa

Zoom avrà la crittografia Post-Quantum End-to-End

Tempo di lettura: 2 minuti. Zoom introduce la crittografia end-to-end post-quantum per Zoom Meetings, migliorando la sicurezza contro le minacce...

Sicurezza Informatica6 giorni fa

SolarMarker minaccia informatica costante dal 2021

Tempo di lettura: 2 minuti. SolarMarker utilizza un'infrastruttura multi-tier e tecniche di elusione avanzate per evitare il rilevamento e colpire...

Sicurezza Informatica6 giorni fa

Chrome risolve problema e CISA pubblica Avvisi ICS e vulnerabilità

Tempo di lettura: 2 minuti. Google rilascia una correzione per Chrome per risolvere il problema delle pagine vuote. CISA pubblica...

Sicurezza Informatica6 giorni fa

CLOUD#REVERSER: Attacco Malware sofisticato basato su Cloud

Tempo di lettura: 2 minuti. CLOUD#REVERSER: malware distribuito attraverso i servizi cloud sfrutta il trucco dell'Unicode per ingannare gli utenti

Truffe recenti

Inchieste5 giorni fa

Mazarsiu e Temunao: non solo truffa, ma un vero metodo

Tempo di lettura: 4 minuti. Le inchieste su Temunao e Marasiu hanno attivato tante segnalazioni alla redazione di persone che...

Pharmapiuit.com Pharmapiuit.com
Inchieste1 settimana fa

Pharmapiuit.com : sito truffa online dal 2023

Tempo di lettura: 2 minuti. Pharmapiuit.com è l'ultimo sito truffa ancora online di una serie di portali che promettono forti...

Temunao.Top Temunao.Top
Inchieste1 settimana fa

Temunao.Top: altro sito truffa che promette lavoro OnLine

Tempo di lettura: 2 minuti. Temunao.top è l'ennesimo sito web truffa che promette un premio finale a coloro che effettuano...

Inchieste1 settimana fa

Attenti a Mazarsiu.com : offerta lavoro truffa da piattaforma Adecco

Tempo di lettura: 2 minuti. Dalla piattaforma Adecco ad un sito che offre lavoro attraverso le Google Ads: è la...

Sicurezza Informatica3 settimane fa

BogusBazaar falsi e-commerce usati per una truffa da 50 milioni

Tempo di lettura: 2 minuti. Oltre 850,000 persone sono state ingannate da una rete di 75,000 falsi negozi online, con...

Sicurezza Informatica3 settimane fa

Truffatori austriaci scappano dagli investitori, ma non dalla legge

Tempo di lettura: 2 minuti. Le forze dell'ordine hanno smascherato e arrestato un gruppo di truffatori austriaci dietro una frode...

Shein Shein
Truffe online2 mesi fa

Truffa dei buoni SHEIN da 300 euro, scopri come proteggerti

Tempo di lettura: < 1 minuto. La truffa dei buoni SHEIN da 300 euro sta facendo nuovamente vittime in Italia,...

OSINT2 mesi fa

USA interviene per recuperare 2,3 Milioni dai “Pig Butchers” su Binance

Tempo di lettura: 2 minuti. Il Dipartimento di Giustizia degli USA interviene per recuperare 2,3 milioni di dollari in criptovalute...

dimarcoutletfirenze sito truffa dimarcoutletfirenze sito truffa
Inchieste3 mesi fa

Truffa dimarcoutletfirenze.com: merce contraffatta e diversi dalle prenotazioni

Tempo di lettura: 2 minuti. La segnalazione alla redazione di dimarcoutletfirenze.com si è rivelata puntuale perchè dalle analisi svolte è...

sec etf bitcoin sec etf bitcoin
Economia5 mesi fa

No, la SEC non ha approvato ETF del Bitcoin. Ecco perchè

Tempo di lettura: 3 minuti. Il mondo delle criptovalute ha recentemente assistito a un evento senza precedenti: l’account Twitter ufficiale...

Tech

honor 200 pro honor 200 pro
Smartphone4 minuti fa

Honor 200 e 200 Pro: Design, Specifiche e Prezzi

Tempo di lettura: 3 minuti. Honor 200 e 200 Pro lanciati in Cina con design elegante, fotocamere avanzate e potenti...

Samsung A54 Samsung A54
Smartphone6 ore fa

Samsung patch di Maggio 2024 per Galaxy A53, A54, Z Fold e Flip 3

Tempo di lettura: 2 minuti. Samsung distribuisce la patch di sicurezza di maggio 2024 per Galaxy A53, A54, Z Fold...

Galaxy S21 FE Galaxy S21 FE
Smartphone7 ore fa

Samsung Galaxy S21 FE: Patch di Sicurezza di Maggio 2024

Tempo di lettura: < 1 minuto. Samsung rilascia la patch di sicurezza di maggio 2024 per Galaxy S21 FE negli...

dummy iPhone 16 Pro dummy iPhone 16 Pro
Smartphone8 ore fa

iPhone 16 Pro: unità dummy rivela schermo più grande

Tempo di lettura: 2 minuti. L'unità dummy dell'iPhone 16 Pro mostra un display più grande e un nuovo pulsante per...

Caviar Galaxy S24 Ultra Caviar Galaxy S24 Ultra
Smartphone9 ore fa

Samsung Galaxy S24 e S22: aggiornamento per fotocamera e sicurezza

Tempo di lettura: 2 minuti. Samsung Galaxy S24 Ultra aggiornamento alla fotocamera con One UI 6.1.1, risolven problemi di ritardo...

Redmi Note 13R Pro Redmi Note 13R Pro
Smartphone9 ore fa

Redmi Note 14 Series: prime anticipazioni su display e chipset

Tempo di lettura: < 1 minuto. Prime indiscrezioni sulla serie Redmi Note 14: display AMOLED 1.5K e chipset Snapdragon 7s...

Smartphone11 ore fa

Samsung Galaxy S25 Ultra: anticipazioni su fotocamere

Tempo di lettura: 2 minuti. Trapelate le specifiche della fotocamera del Samsung Galaxy S25 Ultra: 200MP principale, 50MP ultrawide e...

Motorola Razr 50 Ultra Motorola Razr 50 Ultra
Smartphone11 ore fa

Motorola Razr 2024: Design e Specifiche tecniche rivelate su TENAA

Tempo di lettura: 2 minuti. Scopri design e specifiche tecniche del Motorola Razr 2024 rivelate su TENAA. Innovazioni nel display...

Linux 6.10 Linux 6.10
Tech12 ore fa

Linus Torvalds annuncia la prima Release Candidate del kernel Linux 6.10

Tempo di lettura: 2 minuti. Linus Torvalds annuncia la prima Release Candidate del kernel Linux 6.10. Scopri le nuove funzionalità...

Honor Magic 6 Pro Honor Magic 6 Pro
Smartphone12 ore fa

Honor Magic 6 Pro: specifiche tecniche

Tempo di lettura: 2 minuti. Scopri specifiche e bundle regalo dell'Honor Magic 6 Pro su Amazon India. Smartphone potente con...

Tendenza