Sommario
Microsoft, in collaborazione con Nvidia, ha recentemente annunciato una novità rivoluzionaria per gli sviluppatori: Windows AI Studio. Questa piattaforma, presentata durante l’evento Microsoft Ignite, rappresenta un hub centrale dove gli sviluppatori possono accedere e personalizzare modelli di intelligenza artificiale (AI) direttamente sui loro PC Windows.
Windows AI Studio: nuova frontiera per gli sviluppatori
Windows AI Studio offre agli sviluppatori un accesso semplificato a strumenti di sviluppo e modelli provenienti da Azure AI Studio e altri servizi, come Hugging Face. La piattaforma fornisce un’esperienza di configurazione guidata, con interfacce utente dedicate alla configurazione dei modelli e walkthrough per affinare vari Small Language Models (SLM), tra cui Phi di Microsoft, Llama 2 di Meta e Mistral.
Microsoft Windows, innovazioni e prestazioni con Nvidia
Parallelamente, Nvidia ha annunciato aggiornamenti significativi al TensorRT-LLM, inizialmente lanciato per Windows per eseguire Large Language Models (LLM) in modo più efficiente su GPU H100. L’aggiornamento recente rende TensorRT-LLM disponibile anche per PC con GPU GeForce RTX serie 30 e 40 e almeno 8GB di RAM. Inoltre, Nvidia sta lavorando per rendere TensorRT-LLM compatibile con l’API Chat di OpenAI, permettendo così l’esecuzione locale di LLM, una soluzione ideale per chi è preoccupato della privacy dei dati nel cloud.
Verso un modello di sviluppo “Hybrid Loop”
Queste innovazioni si inseriscono nell’obiettivo di Microsoft di creare un modello di sviluppo “hybrid loop”. Questo approccio mira a facilitare lo sviluppo AI sia nel cloud che localmente sui dispositivi, offrendo agli sviluppatori la flessibilità di non doversi affidare esclusivamente ai propri sistemi per lo sviluppo di AI, ma potendo anche sfruttare i server cloud di Microsoft.
Conclusioni tecniche
In conclusione, Windows AI Studio e le innovazioni di Nvidia rappresentano un passo significativo verso un’era di sviluppo AI più accessibile e versatile in collaborazione con Microsoft. Con queste tecnologie, gli sviluppatori possono ora eseguire e configurare modelli AI in modo più efficiente, sfruttando al meglio le risorse locali e del cloud.
