Yapay zeka alanında önemli bir atılım sayılabilecek bir gelişmeye imza atan Anthropic araştırmacıları, büyük dil modellerinin (LLM) nasıl çalıştığını anlamalarına yardımcı olacak yeni bir araç geliştirdiklerini söyledi.
Claude’un arkasındaki AI girişimi, yeni aracın LLM’lerin nasıl düşündüğünü deşifre edebildiğini söyledi. Sinirbilim alanından ilham alan Anthropic, “aktivite kalıplarını ve bilgi akışlarını tanımlamamızı sağlayan” bir tür yapay zeka mikroskobu geliştirdiklerini duyurdu.
Şirket, açıklamasında, “Claude gibi modellerin nasıl düşündüğünü bilmek, onların yeteneklerini daha iyi anlamamızı sağlamanın yanı sıra, onların istediğimiz şeyi yaptıklarından emin olmamıza da yardımcı olacak” dedi.
Yeteneklerinin ötesinde, günümüzün LLM’leri genellikle kara kutular olarak tanımlanıyor çünkü yapay zeka araştırmacıları henüz yapay zeka modellerinin herhangi bir programlama gerektirmeden belirli bir tepkiye nasıl ulaştığını çözemediler. Anlaşılması gereken diğer gri alanlar yapay zeka halüsinasyonları, ince ayar ve jailbreak ile ilgili. Fakat, yapay zeka miksorkobu LLM’lerin iç işleyişini daha şeffaf ve anlaşılır hale getirebilir. Bu, daha güvenli, emniyetli ve güvenilir AI modellerinin geliştirilmesine daha fazla bilgi sağlayabilir. Halüsinasyonlar gibi yapay zeka risklerini ele almak, işletmeler arasında daha fazla benimsenmeyi de sağlayabilir.
