Nvidia H100'den 30 kat daha zayıf, ancak 200-400 kat daha ucuz
Yapay zeka için en verimli hızlandırıcılar onbinlerce dolara mal olurken, Çinli Intellifusion şirketi çok ucuz olan çözümünü sundu. Deep Eyes adı verilen yapay zeka chipi, SoC DeepEdge10Max formunda sunuluyor ve müşterilere yalnızca 140 dolara mal olacak. Elbette bu fiyata çok mütevazı bir performanstan bahsediyoruz - 48 TOPS. Bu, modern Intel ve AMD işlemcilerden birkaç kat daha fazladır, ancak Snapdragon X Elite SoC, 75 TOPS'a kadar NPU performansına sahip olacaktır. Bu arada bir PC işlemcisinde bir dizi Copilot AI fonksiyonunu yerel olarak çalıştırmak için en az 40 TOPS performansa sahip bir NPU ünitesine ihtiyacınız olduğunu da hatırlatalım . Karşılaştırma için, aynı INT8 modundaki Nvidia H100'ün neredeyse 4000 TOPS performansı var, yani neredeyse 30 kat daha yüksek, ancak maliyeti 200-400 kat daha fazla. Bununla birlikte, böyle bir karşılaştırma yalnızca farklı yonga seviyelerinin gösterilmesi açısından anlamlıdır. Şirket ayrıca daha sonra 24 TOPS AI motorlu DeepEdge10Pro SoC'yu ve 96 TOPS performansına sahip DeepEdge10Ultra'yı piyasaya sürmeye hazırlanıyor. Tüm bu çözümler şirketin kendi teknolojileridir ve özel bir yapay zeka çipi Intellifusion NNP400T'ye dayanmaktadır. SoC konfigürasyonu 1,8 GHz frekansına sahip 10 çekirdekli RISC-V işlemciyi, 800 MHz frekansına sahip GPU'yu da içeriyor ve tüm bunlar 14 nm işlem teknolojisi kullanılarak üretilecek. Read the full article