Digital Reasoning a créé le plus grand réseau de neurones au monde

Neural-NetworkGoogle est battu, de même que le prestigieux Lawrence Livermore National Laboratory. Digital Reasoning vient de mettre en production le plus gros réseau de neurones jamais mis en place. Ce projet vient d’être dévoilé lors de la 32ième conférence internationale sur le Machine Learning qui a lieu à Lille cette semaine. C’est le Lawrence Livermore National Laboratory qui détenait le record de plus grand réseau de neurones avec un réseau avec un réseau de 15 milliards de paramètres, devant celui de Google avec 11,2 milliards de paramètres. Celui de Digital Reasoning démontre de l’accélération que va connaître ce secteur : il place la barre à 160 milliards de paramètres.

Le réseau de Digital Reasoning a battu à plate couture celui de Google

La méthode d'apprentissage CLOW à l'oeuvre sur la séquence “SEE SPOT RUN FAST”.

La méthode d’apprentissage CLOW à l’oeuvre sur la séquence “SEE SPOT
RUN FAST”.

Digital Reasoning a été fondé en 2000 par des anciens d’Oracle, CA, MarkLogic, OpenText, LexisNexis et de la CIA. L’entreprise propose sa plateforme de Machine Learning Synthesys aux entreprises telles que UBS, Point72, ainsi que pour la défense américaine et les services secrets. Avec cette annonce sur l’ICML 2015, l’éditeur américain veut démontrer son savoir faire et il livre les premiers résultats obtenus avec ce réseau de neurones géant. Ils l’ont fait fonctionner sur un jeu de donnée « classique » dans le domaine de l’intelligence artificielle, celui des 20 000 analogies de mots. Plus l’algorithme est capable d’identifier d’analogies dans ces 20 000 combinaisons, plus le système est performant. Celui de Stanford a atteint un score de 75%, celui de Google a atteint 76,2%. Digital Reasoning aurait atteint 85,8%.

Sources :

« Digital Reasoning Trains World’s Largest Neural Network, Shatters Record Previously Set by Google », Digital Reasoning, 6 juillet 2015

« Modeling Order in Neural Word Embeddings at Scale », Cornell University Library, 8 juin 2015

Commentaires Facebook
Twitter Facebook Plusone Pinterest Linkedin
Ce contenu a été publié dans Développement, avec comme mot(s)-clé(s) , . Vous pouvez le mettre en favoris avec ce permalien.