Startupi francez ZML, i mbështetur nga fituesi i Çmimit Turing, Yann LeCun, ka publikuar një softuer për performancën e inferencës. Ky produkt, i quajtur ZML/LLMD, u mundëson modeleve të mëdha gjuhësore me burim të hapur të funksionojnë në një gamë të gjerë çipash, duke përfshirë ato të Nvidia-s, AMD-s, Google-s (TPU), Apple-s (Metal) dhe Intel-it (Arc).
Themeluesi i ZML, Steeve Morin, deklaroi për TechCrunch se ambicia e kompanisë është të thyejë barrierat ekzistuese dhe t’u mundësojë çipeve të ndryshme të përdoren për raste të ndryshme të AI-s me shpejtësinë e tyre maksimale. Sipas Morin, optimizimi i inferencës është bërë më i rëndësishëm se trajnimi i modeleve, por shpesh pengohet nga barrierat softuerike dhe arkitekturore që çojnë në varësinë nga një shitës i vetëm.
ZML synon t’u ofrojë ndërmarrjeve dhe shërbimeve cloud mundësinë për të përdorur një kombinim çipash, disa prej të cilëve mund të jenë më të përballueshëm ose të konsumojnë më pak energji. Morin vuri në dukje se ky softuer mund të ndihmojë prodhuesit e rinj të çipave, veçanërisht ata nga Evropa, si Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud dhe VSORA, duke bashkëpunuar në zhvillime teknologjike të reja.
Ekipi i ZML, i përbërë nga 20 persona, ka siguruar 20 milionë dollarë financim nga firma të ndryshme investimi, duke përfshirë 20VC, >commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe dhe Puzzle Ventures.
Ndërsa projekti i parë i ZML ishte me burim të hapur, ZML/LLMD po lansohet si një produkt falas për të kuptuar më mirë mënyrat e përdorimit. Morin shpjegoi se dëshiron të masë efektivitetin përpara se të gjenerojë të ardhura. Interesi nga figura të njohura të industrisë, si Solomon Hykes, Clément Delangue, Julien Chaumond dhe Yann LeCun, tregon mbështetje për zhvillimin e startup-eve të AI-s në Evropë.
Burimi: techcrunch.com