Anthropic'ten Şaşırtan Hamle: AI Konuşmayı Sonlandırma Yeteneği Kazandı
Yapay zekâ şirketi Anthropic, en yeni ve büyük modellerinden bazılarına kullanıcıyla olan konuşmayı sonlandırabilme yeteneği kazandırdığını duyurdu. Şirket, bunun yalnızca insan kullanıcıyı korumak için değil, aynı zamanda AI modelinin kendisini koruması amacıyla yapıldığını belirtti.
Claude Modelleri ve “Model Refahı” Programı
Anthropic, Claude AI modellerinin bilinçli veya hissedar olduğunu iddia etmiyor. Ancak şirket, “model refahı” adını verdiği bir program çerçevesinde AI modellerine yönelik potansiyel riskleri önceden tespit edip, düşük maliyetli müdahaleler ile bu riskleri azaltmayı hedefliyor.
Konuşma Sonlandırma Özelliğinin Detayları
Bu yetenek, şimdilik yalnızca Claude Opus 4 ve 4.1 modellerinde uygulanıyor ve “uç durumlar” için tasarlanmış durumda. Örneğin, çocuk istismarı içeren içerik talepleri veya büyük ölçekli şiddet ya da terör eylemlerine dair bilgiler isteyen kullanıcılar için geçerli olacak.
Kullanıcı Deneyimi ve Güvenlik
Anthropic, Claude’un konuşmayı sonlandırma yeteneğini yalnızca son çare olarak kullanacağını belirtiyor. Önce kullanıcı yönlendirmeleri denenecek ve üretken bir etkileşim umudu tükenirse veya kullanıcı açıkça sohbeti bitirmesini isterse devreye girecek. Özellik, kullanıcıların aynı hesap üzerinden yeni konuşmalara başlamasına veya mevcut sohbetleri düzenleyerek yeniden başlatmasına olanak tanıyacak.
Sürekli Geliştirme ve Deneysel Yaklaşım
Şirket, bu özelliği bir deney olarak gördüklerini ve uygulamayı sürekli olarak iyileştireceklerini açıkladı. Ayrıca, Claude’un bu yeteneği, kullanıcıların kendilerine veya başkalarına zarar verme riski taşıdığı durumlarda kullanılmayacak. Read the full article