Connect with us

Intelligenza Artificiale

Tutela dei whistleblower e sicurezza AI: ex dipendenti OpenAI preoccupati

Tempo di lettura: 2 minuti. Whistleblower e sicurezza dell’Intelligenza Artificiale sono parte delle preoccupazioni espresse da ex dipendenti di OpenAI

Pubblicato

in data

Tempo di lettura: 2 minuti.

Tredici ex dipendenti di OpenAI, in una lettera aperta, hanno denunciato la mancanza di garanzie per i whistleblower chi segnala problemi di sicurezza legati all’intelligenza artificiale (IA).

La lettera aperta

La lettera, firmata da tredici ex dipendenti OpenAI (sei dei quali hanno scelto di rimanere anonimi) e sostenuta da Geoffrey Hinton, pioniere dell’intelligenza artificiale precedentemente in forza a Google, sottolinea la necessità per le aziende del settore di adottare principi di apertura nei confronti di critiche e controlli, soprattutto in un momento storico in cui crescono le preoccupazioni sulla sicurezza dell’IA.

Principi per una maggiore trasparenza

In assenza di un efficace controllo governativo, la lettera propone che le aziende del settore IA si impegnino a rispettare principi di critica aperta. Questi principi includono:

  • Evitare la creazione e l’applicazione di clausole di non concorrenza che limitino la libertà di parola dei dipendenti
  • Garantire un processo “verificabilmente” anonimo per segnalare problemi
  • Consentire a dipendenti, attuali e precedenti, di sollevare pubblicamente preoccupazioni
  • Impegno a non ritorcere contro i whistleblower (coloro che segnalano irregolarità)

Preoccupazioni e rischi legati all’IA

Gli autori della lettera riconoscono il potenziale positivo dell’IA per la società, ma evidenziano anche i rischi associati, come:

  • Radicamento delle disuguaglianze
  • Diffusione di manipolazione e disinformazione
  • Estinzione umana (come scenario estremo)

Sebbene la preoccupazione per macchine in grado di conquistare il mondo attiri molta attenzione, i problemi più concreti dell’IA odierna riguardano:

  • Violazioni del copyright
  • Condivisione involontaria di immagini problematiche e illegali
  • Capacità di imitare le sembianze delle persone e indurre in errore il pubblico

Protezioni inefficaci per i whistleblower

La lettera sostiene che le attuali tutele per i whistleblower siano “insufficienti” perché principalmente incentrate su attività illegali, trascurando questioni legate all’IA dalla stessa OpenAI che spesso ricadono in zone grigie non ancora regolamentate.

Il Dipartimento del Lavoro degli Stati Uniti specifica che le leggi a tutela dei whistleblower proteggono i lavoratori che segnalano violazioni riguardanti salari, discriminazione, sicurezza, frode e mancato riconoscimento di ferie. Ciò significa che i datori di lavoro non possono licenziare, sospendere, ridurre le ore o declassare i dipendenti che segnalano irregolarità.

“Alcuni di noi temono ragionevolmente ritorsioni, data la storia di tali casi in tutto il settore. Non siamo i primi a incontrare o parlare di questi problemi”, si legge nella lettera.

Mancanza di controlli di sicurezza nell’IA

Le aziende che operano nel campo dell’IA, in particolare OpenAI, sono state criticate per la carente supervisione in materia di sicurezza. Google ha difeso il suo strumento di ricerca basato sull’IA, AI Overviews, nonostante le segnalazioni di risultati pericolosi, seppur divertenti. Anche Microsoft è stata oggetto di polemiche per il suo Copilot Designer, che generava “immagini sessualizzate di donne in scene violente”.

Di recente, diversi ricercatori di OpenAI si sono dimessi dopo lo scioglimento del team “Superalignment”, che si occupava dei rischi a lungo termine dell’IA, e le dimissioni del co-fondatore Ilya Sutskever, che si era fatto portavoce della sicurezza all’interno dell’azienda. Un ex ricercatore, Jan Leike, ha affermato che “la cultura e i processi di sicurezza sono stati messi in secondo piano rispetto a prodotti dal facile appeal” in OpenAI. OpenAI ha attualmente un nuovo team per la sicurezza guidato dal CEO Sam Altman.

Intelligenza Artificiale

SQUID: nuova frontiera dell’intelligenza artificiale nella genomica

Tempo di lettura: 2 minuti. Scopri come SQUID, il nuovo strumento computazionale del Cold Spring Harbor Laboratory, apre la “scatola nera” dell’AI genomica

Pubblicato

in data

Tempo di lettura: 2 minuti.

SQUID, un nuovo strumento computazionale sviluppato dai laboratori Koo e Kinney del Cold Spring Harbor Laboratory (CSHL), si propone di aprire la “scatola nera” dell’intelligenza artificiale applicata alla genomica. Rispetto ad altri modelli di AI genomica, SQUID è più consistente, riduce il rumore di fondo e può fornire migliori predizioni riguardo alle mutazioni critiche, avvicinando gli scienziati alle reali implicazioni mediche delle loro scoperte.

Come funziona SQUID

SQUID, acronimo di Surrogate Quantitative Interpretability for Deepnets, è progettato per aiutare a interpretare il modo in cui i modelli di AI analizzano il genoma. A differenza di altri strumenti di analisi, SQUID utilizza decenni di conoscenze quantitative sulla genetica per migliorare la comprensione di ciò che apprendono le reti neurali profonde.

Processo di Analisi

  1. Generazione di Sequenze Varianti: SQUID genera una libreria di oltre 100.000 sequenze di DNA varianti.
  2. Analisi delle Mutazioni: Utilizzando il programma MAVE-NN (Multiplex Assays of Variant Effects Neural Network), analizza le mutazioni e i loro effetti.
  3. Esperimenti Virtuali: Consente agli scienziati di eseguire migliaia di esperimenti virtuali simultaneamente, “pescando” gli algoritmi dietro le predizioni più accurate dell’AI.

Vantaggi di SQUID

  • Riduzione del Rumore di Fondo: Migliora la precisione delle predizioni riducendo il rumore di fondo.
  • Predizioni Più Accurate: Fornisce previsioni più accurate sugli effetti delle mutazioni genetiche.
  • Formazione di Ipotesi: Aiuta gli scienziati a formare ipotesi su come funziona una particolare regione del genoma o come una mutazione potrebbe avere un effetto clinicamente rilevante.

Applicazioni di SQUID

SQUID potrebbe rivoluzionare il campo della biologia genomica, permettendo agli scienziati di navigare più efficacemente nel complesso terreno del genoma umano. Sebbene gli esperimenti virtuali non possano sostituire completamente quelli di laboratorio, possono essere molto informativi e preparare il terreno per esperimenti più realistici.

SQUID rappresenta un importante passo avanti nell’interpretazione dei modelli di intelligenza artificiale applicati alla genomica. Sfruttando decenni di conoscenze genetiche quantitative, SQUID offre una visione più chiara e accurata delle predizioni AI, avvicinando gli scienziati alle vere implicazioni mediche delle loro scoperte.

Prosegui la lettura

Intelligenza Artificiale

Amazon prodotti AI Generative in Italia

Tempo di lettura: 2 minuti. Amazon estende le sue inserzioni di prodotti AI generative a Francia, Germania, Italia, Spagna e Regno Unito, migliorando le descrizioni

Pubblicato

in data

Tempo di lettura: 2 minuti.

Amazon sta ampliando la sua tecnologia di inserzioni generative AI per includere venditori in Francia, Germania, Italia, Spagna e Regno Unito. Questi strumenti, progettati per migliorare le inserzioni di prodotti generando descrizioni, titoli e dettagli associati, ora sono disponibili anche in questi mercati europei.

Dettagli del lancio

Questa estensione arriva nove mesi dopo che Amazon ha rivelato i suoi piani per introdurre la tecnologia AI generativa per i venditori. In precedenza, tali strumenti erano largamente limitati agli Stati Uniti, con un lancio silenzioso nel Regno Unito avvenuto all’inizio di questo mese. Secondo un post sul blog di Amazon, oltre 30.000 venditori stanno già utilizzando questi strumenti AI-enabled per le inserzioni.

I nuovi strumenti sono progettati per aiutare i venditori a elencare i prodotti più rapidamente. I venditori possono accedere alla pagina “Elenca i tuoi prodotti”, inserire parole chiave rilevanti che descrivono il prodotto e premere il pulsante “Crea” per formulare la base di una nuova inserzione. È anche possibile generare un’inserzione caricando una foto tramite la scheda “Immagine del prodotto”.

Funzionalità AI

L’AI di Amazon genera automaticamente un titolo del prodotto, punti elenco e una descrizione che il venditore può modificare se necessario. Tuttavia, data la propensione dei modelli di linguaggio su larga scala (LLM) a “allucinare”, Amazon raccomanda di rivedere attentamente il contenuto generato per garantire che sia corretto.

Amazon ha dichiarato nel suo forum britannico due settimane fa: “I nostri strumenti di intelligenza artificiale generativa stanno imparando e evolvendo costantemente. Stiamo sviluppando nuove capacità potenti per rendere le inserzioni generate più efficaci e rendere ancora più facile per te elencare i prodotti”.

Questioni di Regolamentazione

L’introduzione di qualsiasi forma di AI nei mercati europei solleva potenziali questioni regolamentari, specialmente riguardo al GDPR per la privacy dei dati e al Digital Services Act (DSA) per i rischi algoritmici. Amazon, designata come una Very Large Online Platform (VLOP), deve garantire la trasparenza nell’applicazione dell’AI. In passato, Amazon ha affrontato critiche dai regolatori dell’UE per l’uso improprio dei dati dei commercianti, e recentemente, i rivenditori del Regno Unito hanno intentato una causa da 1,1 miliardi di sterline contro Amazon per accuse simili.

Domande sui dati

La domanda cruciale è quale tipo di dati vengano utilizzati per addestrare questi LLM. Nella sua dichiarazione iniziale, Amazon ha fatto riferimento a “fonti di informazione diversificate”, ma i dettagli specifici non sono chiari. Robert Tekiela, VP di Amazon Selection and Catalog Systems, ha dichiarato che i modelli AI possono inferire informazioni sui prodotti attraverso fonti di informazioni diverse, conoscenza latente e ragionamento logico.

L’espansione delle inserzioni AI generative di Amazon in Europa rappresenta un significativo passo avanti per migliorare l’efficienza e la qualità delle inserzioni di prodotti. Tuttavia, resta da vedere come Amazon affronterà le sfide regolamentari e le questioni di privacy dei dati in questi nuovi mercati.

Prosegui la lettura

Intelligenza Artificiale

Claude 3.5 Sonnet: nuovo modello AI di Anthropic

Tempo di lettura: 2 minuti. Anthropic Claude 3.5 Sonnet: modello AI più veloce e intelligente, con nuove funzionalità come Artifacts per migliorare l’interazione e la produttività.

Pubblicato

in data

Tempo di lettura: 2 minuti.

Anthropic ha lanciato il suo modello AI più recente, Claude 3.5 Sonnet, che promette di essere il più intelligente, veloce e personale tra i modelli finora sviluppati. Questo nuovo modello è già disponibile per gli utenti di Claude sia sul web che su iOS, ed è anche accessibile agli sviluppatori.

Benchmark e prestazioni

Claude 3.5 Sonnet supera i suoi concorrenti, tra cui GPT-4o di OpenAI e Gemini 1.5 di Google, in una vasta gamma di compiti. Nei test di benchmark, Claude 3.5 Sonnet ha ottenuto punteggi superiori in sette su nove benchmark complessivi e in quattro su cinque benchmark di visione rispetto a GPT-4o, Gemini 1.5 Pro e Llama 3 400B di Meta.

BenchmarkClaude 3.5 SonnetGPT-4oGemini 1.5 ProLlama 3 400B
Overall (7/9)SuperioreInferioreInferioreInferiore
Vision (4/5)SuperioreInferioreInferioreInferiore

Funzionalità migliorate

Claude 3.5 Sonnet è progettato per eccellere in varie attività, tra cui:

  • Scrittura e traduzione di codice
  • Gestione di flussi di lavoro multistep
  • Interpretazione di grafici e tabelle
  • Trascrizione di testo da immagini

Inoltre, il modello è migliore nella comprensione dell’umorismo e può scrivere in modo più umano.

Nuova funzione: Artifacts

Anthropic ha introdotto una nuova funzione chiamata Artifacts, che permette agli utenti di interagire direttamente con i risultati delle richieste di Claude. Ad esempio, se si chiede al modello di progettare qualcosa, è possibile visualizzare e modificare il progetto direttamente nell’app. Questa funzione consente anche di modificare email e documenti creati da Claude senza doverli copiare in un editor di testo separato.

Visione a lungo termine

Artifacts sembra indicare la visione a lungo termine di Claude come strumento per le aziende per centralizzare in modo sicuro la loro conoscenza, documenti e lavoro in uno spazio condiviso. Questo approccio lo rende più simile a strumenti come Notion o Slack, piuttosto che a semplici chatbot come ChatGPT.

Evoluzione e concorrenza

L’evoluzione di Claude è stata rapida: il modello 3 Opus è stato lanciato a marzo e ora il 3.5 Sonnet già promette miglioramenti significativi. Questo ritmo di sviluppo riflette l’intensa competizione nel settore AI, con OpenAI e Google che rilasciano continuamente versioni migliorate dei loro modelli.

Claude 3.5 Sonnet rappresenta un passo avanti significativo per Anthropic, offrendo prestazioni avanzate e funzionalità migliorate rispetto ai suoi predecessori e concorrenti. Con il continuo sviluppo di nuove funzionalità come Artifacts, Claude sta diventando sempre più uno strumento versatile e potente, non solo per i consumatori ma anche per le aziende.

Prosegui la lettura

Facebook

CYBERSECURITY

Sicurezza Informatica1 giorno fa

Grave vulnerabilità UEFI in numerosi processori Intel

Tempo di lettura: 2 minuti. Grave vulnerabilità UEFI nei processori Intel: rischio di esecuzione di codice malevolo. Aggiornamenti e misure...

Sicurezza Informatica2 giorni fa

Rafel RAT: dallo spionaggio alle operazioni ransomware su Android

Tempo di lettura: 3 minuti. Scopri come Rafel RAT sta trasformando il panorama della sicurezza Android con tecniche avanzate di...

Sicurezza Informatica2 giorni fa

CosmicSting: minaccia grave per i negozi Magento e Adobe Commerce

Tempo di lettura: 2 minuti. Scopri la minaccia di CosmicSting per i negozi Magento e Adobe Commerce, inclusi dettagli sulla...

Sicurezza Informatica2 giorni fa

Project Naptime: gli LLM migliorano la difesa informatica?

Tempo di lettura: 2 minuti. Project Naptime di Google Project Zero esplora come i modelli di linguaggio possono migliorare la...

Sicurezza Informatica3 giorni fa

SquidLoader: malware evasivo che colpisce la Cina

Tempo di lettura: 2 minuti. SquidLoader, un malware altamente evasivo, prende di mira le organizzazioni cinesi con tecniche avanzate di...

Sicurezza Informatica3 giorni fa

Operazione di Probing DNS su scala globale: il caso Secshow

Tempo di lettura: 3 minuti. L'operazione Secshow rivela un probing DNS globale che sfrutta resolver aperti e amplificazione Cortex Xpanse

Sicurezza Informatica3 giorni fa

Morris II: malware auto-replicante che compromette assistenti Email con AI

Tempo di lettura: 2 minuti. Morris II, il malware auto-replicante che minaccia gli assistenti email GenAI, richiede misure di sicurezza...

Sicurezza Informatica4 giorni fa

Bug in Windows 10 e ONNX Phishing: ultime novità e minacce

Tempo di lettura: 2 minuti. Scopri il bug di Windows 10 che causa dialoghi "Apri con" e la nuova minaccia...

Sicurezza Informatica5 giorni fa

Compromissione PowerShell: nuove tecniche di attacco

Tempo di lettura: 2 minuti. Meta descrizione: Una nuova tecnica di attacco utilizza ingegneria sociale per indurre gli utenti a...

Sicurezza Informatica5 giorni fa

ASUS risolve vulnerabilità critica su 7 modelli di router

Tempo di lettura: 2 minuti. ASUS risolve una vulnerabilità critica di bypass dell'autenticazione su sette modelli di router, invitando gli...

Truffe recenti

fbi fbi
Sicurezza Informatica3 settimane fa

FBI legge Matrice Digitale? Avviso sulle truffe di lavoro Online

Tempo di lettura: 2 minuti. L'FBI segnala un aumento delle truffe lavoro da casa con pagamenti in criptovaluta, offrendo consigli...

Sicurezza Informatica3 settimane fa

Milano: operazione “Trust”, frodi informatiche e riciclaggio di criptovaluta

Tempo di lettura: 2 minuti. Scoperta un'organizzazione criminale transnazionale specializzata in frodi informatiche e riciclaggio di criptovaluta nell'operazione "Trust"

Inchieste3 settimane fa

Truffa lavoro Online: analisi metodo Mazarsiu e consigli

Tempo di lettura: 4 minuti. Mazarsiu e Temunao sono solo due portali di arrivo della truffa di lavoro online che...

Inchieste1 mese fa

Mazarsiu e Temunao: non solo truffa, ma un vero metodo

Tempo di lettura: 4 minuti. Le inchieste su Temunao e Marasiu hanno attivato tante segnalazioni alla redazione di persone che...

Pharmapiuit.com Pharmapiuit.com
Inchieste1 mese fa

Pharmapiuit.com : sito truffa online dal 2023

Tempo di lettura: 2 minuti. Pharmapiuit.com è l'ultimo sito truffa ancora online di una serie di portali che promettono forti...

Temunao.Top Temunao.Top
Inchieste1 mese fa

Temunao.Top: altro sito truffa che promette lavoro OnLine

Tempo di lettura: 2 minuti. Temunao.top è l'ennesimo sito web truffa che promette un premio finale a coloro che effettuano...

Inchieste1 mese fa

Attenti a Mazarsiu.com : offerta lavoro truffa da piattaforma Adecco

Tempo di lettura: 2 minuti. Dalla piattaforma Adecco ad un sito che offre lavoro attraverso le Google Ads: è la...

Sicurezza Informatica2 mesi fa

BogusBazaar falsi e-commerce usati per una truffa da 50 milioni

Tempo di lettura: 2 minuti. Oltre 850,000 persone sono state ingannate da una rete di 75,000 falsi negozi online, con...

Sicurezza Informatica2 mesi fa

Truffatori austriaci scappano dagli investitori, ma non dalla legge

Tempo di lettura: 2 minuti. Le forze dell'ordine hanno smascherato e arrestato un gruppo di truffatori austriaci dietro una frode...

Shein Shein
Truffe online3 mesi fa

Truffa dei buoni SHEIN da 300 euro, scopri come proteggerti

Tempo di lettura: < 1 minuto. La truffa dei buoni SHEIN da 300 euro sta facendo nuovamente vittime in Italia,...

Tech

Smartphone12 ore fa

Realme GT 6 vs POCO F6: quale scegliere?

Tempo di lettura: 2 minuti. Confronto tra Realme GT 6 e POCO F6: scopri quale smartphone di fascia media offre...

Tech12 ore fa

HMD Tab Lite: fuga di notizie su opzioni di colore eleganti

Tempo di lettura: 2 minuti. HMD Tab Lite, nuovo tablet economico di HMD con opzioni di colore eleganti e specifiche...

Smartphone12 ore fa

Annuncio ufficiale di Realme V60 e V60s

Tempo di lettura: 2 minuti. Scopri le specifiche e i prezzi dei nuovi Realme V60 e V60s, smartphone 5G entry-level...

Tech12 ore fa

Prezzi di Samsung Galaxy Buds 3, Watch 7 e Watch Ultra Online. Sono dolori

Tempo di lettura: 2 minuti. Scopri i prezzi trapelati degli indossabili di Samsung, tra cui Galaxy Buds 3, Galaxy Watch...

Intelligenza Artificiale16 ore fa

SQUID: nuova frontiera dell’intelligenza artificiale nella genomica

Tempo di lettura: 2 minuti. Scopri come SQUID, il nuovo strumento computazionale del Cold Spring Harbor Laboratory, apre la "scatola...

Tech16 ore fa

Realme GT 6 vs Xiaomi 14 Civi: quale scegliere?

Tempo di lettura: 3 minuti. Confronto tra Realme GT 6 e Xiaomi 14 Civi: specifiche, design, prestazioni e prezzi per...

Smartphone16 ore fa

Honor Play 60 Plus: specifiche e immagini prima del lancio

Tempo di lettura: 2 minuti. Scopri le specifiche tecniche e le immagini trapelate dell'Honor Play 60 Plus con display da...

Smartphone1 giorno fa

Novità fotocamera di iPhone 16 Pro e limitazioni di Apple Intelligence nell’UE

Tempo di lettura: 2 minuti. Scopri le nuove funzionalità della fotocamera dell'iPhone 16 Pro e le limitazioni delle nuove funzionalità...

Tech1 giorno fa

Internet Archive rimuove 500.000 libri e Spotify lancia piano “Basic”

Tempo di lettura: 2 minuti. Internet Archive rimuove 500.000 libri dopo sentenza legale; Spotify introduce un piano "Basic" più economico...

Smartphone1 giorno fa

Galaxy A42 5G, S20 FE e A52s si aggiornano: One UI 6.1.1 arriva presto

Tempo di lettura: 2 minuti. Samsung aggiorna Galaxy A42 5G, S20 FE e A52s con patch di sicurezza di giugno...

Tendenza