Revolut reduce costurile de generare a codului cu 90% după trecerea la un model AI chinezesc auto-găzduit
Compania de fintech Revolut a anunțat că a trecut de la API-urile OpenAI și Anthropic la modelul chinezesc de inteligență artificială cu ponderi deschise GLM-4.5, dezvoltat de Zhipu AI, pe care îl rulează pe propria infrastructură, potrivit unui comunicat al companiei. Această schimbare a dus la o reducere cu 90% a costurilor pentru generarea de cod prin inteligența artificială.
Modelul rulează pe 56 de GPU-uri Nvidia B200, iar costurile de inferență au scăzut la aproximativ 0,30 USD per milion de tokeni. Conform companiei, performanțele s-au îmbunătățit vizibil: timpul de răspuns a scăzut de la peste 10 secunde la doar 1,6 secunde.
Un eșantion din cei 2.000 de ingineri ai companiei a raportat o îmbunătățire cu 60% a timpului de programare, iar timpul de execuție (lead time) a fost redus cu 70%.
Revolut se bazează în continuare pe modele găzduite în cloud, cum ar fi Gemini de la Google, pentru sarcinile legate de imagini, în timp ce GLM-4.5 este folosit exclusiv pentru generarea de text și cod.
Ce înseamnă de fapt această schimbare
Revolut nu cumpără pur și simplu acces la un chatbot chinezesc, ci descarcă modelul AI și îl rulează pe propriile servere, folosind infrastructură proprie. Astfel, compania nu mai plătește fiecărui furnizor AI pentru fiecare utilizare, la tarifele comerciale practicate de aceștia, își controlează infrastructura și volumul de utilizare și poate permite inginerilor să utilizeze AI mult mai frecvent, fără plafoane stricte de tokeni.
Există însă și costuri legate de cele 56 de procesoare Nvidia, de infrastructură și de personalul tehnic. Prin urmare, tariful de 0,30 dolari nu trebuie interpretat ca un cost universal valabil pentru orice companie.
