La minaccia dei deepfake sta crescendo poiché gli strumenti di intelligenza artificiale per crearli diventano ampiamente accessibili. Secondo il fornitore di verifica Sumsub, c'è stato un aumento del 245% dei deepfake in tutto il mondo dal 2023 al 2024, un aumento scatenato in parte dai prossimi cicli elettorali. Sta influenzando anche il settore aziendale; un recente sondaggio di Business.com ha rilevato che il 10% delle aziende ha subito frodi assistite da deepfake, come voci clonate.

Il trend, non sorprendentemente, è stato una manna per le aziende che commercializzano strumenti per difendersi dai deepfake e le tecnologie utilizzate per produrli. Una di queste aziende, Pindrop, ha annunciato mercoledì di aver ottenuto un prestito quinquennale di $100 milioni da Hercules Capital, che il CEO Vijay Balasubramaniyan ha dichiarato essere destinato allo sviluppo del prodotto e alle assunzioni.

\"Con i progressi nell'IA generativa, la clonazione delle voci in particolare è diventata uno strumento potente\", ha detto Balasubramaniyan a TechCrunch. \"La rilevazione dei deepfake che sfrutta le tecnologie di rilevamento dell'IA è ora necessaria per ogni centro chiamate per rimanere un passo avanti ai truffatori.\"

Pindrop costruisce prodotti di contrasto del deepfake e di autenticazione multi-fattore rivolti a imprese del settore bancario, finanziario e settori correlati. L'azienda afferma che i suoi strumenti possono identificare i chiamanti dei call center, ad esempio - e con una maggiore precisione rispetto alle soluzioni rivali.

\"Pindrop utilizza un set di dati di oltre 20 milioni di enunciati, sia sintetici che genuini, per addestrare i modelli di intelligenza artificiale a differenziare tra voci umane autentiche e sinteticamente generate\", ha detto Balasubramaniyan. \"Abbiamo inoltre addestrato oltre 330 modelli di text-to-speech (TTS) per aiutare a identificare i modelli TTS utilizzati per creare i deepfake.\"

Il pregiudizio è un problema comune nei modelli di rilevamento dei deepfake. Molti modelli audio tendono ad essere inclini a riconoscere le voci occidentali, americane e a performare male con diversi accenti e dialetti, il che potrebbe portare un rilevatore a classificare una voce legittima come un deepfake.

Se il ricorso a dati di addestramento sintetici - dati di addestramento generati dai modelli di intelligenza artificiale stessi - mitiga o esacerba i pregiudizi è oggetto di dibattito. Per quanto valga, Balasubramaniyan ritiene che sia il primo e afferma che i prodotti di autenticazione vocale di Pindrop si concentrano sulle caratteristiche acustiche e spettro-temporali delle voci invece che sulla pronuncia o il linguaggio.

\"I sistemi di riconoscimento vocale basati sull'IA tendono a mostrare risultati tendenziosi verso differenze tonali, d'accento, vernacolari e dialettali che potrebbero avere implicazioni razziali\", ha detto Balasubramaniyan. \"Questi pregiudizi derivano dall'omogeneità dei dati utilizzati per addestrare i sistemi che potrebbero mancare di rappresentazione di varie differenze etniche, razziali, di genere o altre, limitando così la varietà di dati su cui sono addestrati i sistemi di intelligenza artificiale.\"

Indipendentemente dall'efficacia dei suoi prodotti, Pindrop ha fatto notevoli progressi dal 2011, quando Balasubramaniyan, un ex Googler, ha fondato l'azienda insieme all'ex chief research officer di Barracuda Networks Paul Judge e Mustaque Ahamad. Fino ad oggi, l'azienda con sede ad Atlanta, che impiega circa 250 persone, ha raccolto $234,77 milioni di dollari di venture capital da investitori tra cui Vitruvian Partners, CapitalG, IVP e Andreessen Horowitz.

Chiesto perché Pindrop ha optato per il debito anziché per l'equity questa volta, Balasubramaniyan ha dichiarato che era un'opzione \"interessante\" per \"raccogliere in modo efficiente capitale di crescita\" senza diluire l'equity di Pindrop. (Questa è una strategia comune.)

I proventi del prestito permetteranno a Pindrop di portare la propria tecnologia in nuovi settori, ha aggiunto Balasubramaniyan, come la sanità, il commercio al dettaglio, i media e i viaggi.

\"Con l'avvento dell'IA generativa, stiamo vedendo una massiccia domanda per le nostre soluzioni in tutto il mondo e prevediamo di espanderci in paesi che stanno affrontando minacce significative a causa dei deepfake\", ha detto Balasubramaniyan. \"Pindrop è posizionata per aiutare le aziende a proteggere se stesse e i loro consumatori dalle crescenti minacce di frodi e deepfake con soluzioni di prevenzione delle frodi, autenticazione e vivacità.\"