Marslı'nın aracı, maliyetleri azaltmak için Yüksek Lisans'lar arasında otomatik olarak geçiş yapar - Dünyadan Güncel Teknoloji Haberleri

Marslı'nın aracı, maliyetleri azaltmak için Yüksek Lisans'lar arasında otomatik olarak geçiş yapar - Dünyadan Güncel Teknoloji Haberleri
“Zor olan, yapay zeka araştırmalarını karlı hale getirmektir “Bu bizim öncülük ettiğimiz buluş Bir pazar istihbarat firması olan Permutable

Martian’ın ilk ürünü, büyük bir dil modeli (LLM) (örneğin GPT-4) için tasarlanmış bir istemi alan ve onu otomatik olarak “en iyi” LLM’ye yönlendiren bir “model yönlendirici” aracıdır ai’nin CEO’su yakın zamanda açıklığa kavuşmuş OpenAI’nin üst düzey modellerini kullanarak günde yaklaşık 2 milyon makaleyi işlemek, firmaya yılda 1 milyon dolardan fazlaya mal oluyor Dolayısıyla yükselişi, Martian’ın fiyatlandırmasının rekabetçiliğine ve yüksek riskli ticari senaryoları karşılama yeteneğine bağlı olacak


Pennsylvania Üniversitesi’nden yapay zeka araştırmacıları Shriyash Upadhyay ve Etan Ginsberg, birçok büyük yapay zeka şirketinin rekabetçi, güçlü yapay zeka modelleri geliştirme arayışında temel araştırmalardan fedakarlık ettiği görüşünde

O şirket, Marslı, bugün NEA, Prosus Ventures, Carya Venture Partners ve General Catalyst gibi yatırımcılardan sağlanan 9 milyon dolarlık fonla gizlilikten çıktı

Her görev daha pahalı modellerin beygir gücüne ihtiyaç duymaz, ancak anında akıllıca geçiş yapan bir sistem oluşturmak zor olabilir “Model yönlendirici, yeni modelleri çıktıkça indeksliyor ve bunları sıfır sürtünme veya manuel çalışma gerektiren uygulamalara dahil ediyor İşte tam bu noktada Marslı ve bir modelin performansını onu çalıştırmadan tahmin etme yeteneği devreye giriyor Yalnızca GPT-4 gibi üst düzey bir Yüksek Lisans’a güvenmek çoğu şirket için olmasa da bazı şirketler için yüksek maliyetli olabilir Varsayılan olarak model yönlendirici, söz konusu bilgi istemi için en iyi çalışma süresine, becerilere (örneğin matematik problem çözme) ve maliyet-performans oranına sahip LLM’yi seçer Şirketin misyonunun doğal olarak yetenek araştırmasından ziyade yorumlanabilirlik araştırmasını ilerletmekle uyumlu olacağını ve bunun da daha güçlü araştırmalara yol açacağını öne sürdüler En az bir başka girişim olan Credal, otomatik bir model değiştirme aracı sağlıyor “Ancak web sitesi oluşturmak gibi bir görevde, kullanıcının belirttiği bağlama (hangi dil, hangi özellikler, ne kadar ödemek istedikleri vb ) bağlı olarak farklı modeller belirli bir talebe daha uygun olacaktır… Bir ekip kullanarak Bir uygulamadaki modellerin sayısı arttıkça, bir şirket herhangi bir LLM’nin tek başına başarabileceğinden daha yüksek bir performansa ve daha düşük maliyete ulaşabilir

“Gerçekten etkili bir model yönlendirici oluşturmak son derece zordur çünkü bu modellerin temelde nasıl çalıştığına dair bir anlayış geliştirmeyi gerektirir” dediler ”



genel-24

Marslının model yönlendiricisi yeni bir teknoloji değil ”

Upadhyay ve Ginsberg, bununla baş etmenin en iyi yolunun, ürünleri yorumlanabilirlikten yararlanan bir şirket olan kendilerine ait bir şirket kurmak olabileceğini düşündüler

“Martian, en pahalı modellere benzer performans gösteren istekler üzerine daha ucuz modellere yönelebilir ve yalnızca gerektiğinde pahalı modellere yönlendirebilir” diye eklediler İkili, piyasa dinamiklerini suçluyor: Şirketler önemli miktarda fon topladığında çoğunluk, temel konuları incelemek yerine genellikle rakiplerin önünde kalma çabalarına yöneliyor

“LLM’lerle ilgili araştırmamız sırasında [at UPenn,] Upadhyay ve Ginsberg, TechCrunch’a bir e-posta röportajında ​​şunları söyledi: Yapay zeka endüstrisindeki bu endişe verici eğilimleri gözlemledik

Upadhyay ve Ginsberg, “milyarlarca dolarlık” şirketler de dahil olmak üzere halihazırda bir miktar alım olduğunu iddia ediyor Upadhyay ve Ginsberg, gelirlerin ürün geliştirmeye, modellerin iç operasyonlarına yönelik araştırmalara ve Martian’ın on kişilik ekibini büyütmeye harcandığını söylüyor

Upadhyay ve Ginsberg, “Şirketlerin şu anda LLM’leri kullanma şekli, tüm isteklerini gönderdikleri her uç nokta için tek bir LLM seçmektir” dedi ”

Bunda gerçek var