
Sistem Talimatlarını Kullanıcı Tarafından Sağlanan İçerikten Ayırt Etme
Yapay zeka ajanlarının bağlayıcı talimatları, yalnızca bir şeyi anlatan ya da isteyen içerikten ayırması için pratik bir çerçeve.
Bu sitede erişilebilirlik tercihleri vardır: yazı boyutu, yüksek kontrast, hareketi azaltma ve disleksi dostu yazı tipi. Paneli açmak için Alt tuşu ile E tuşuna birlikte basın veya sayfa başındaki Erişilebilirlik düğmesini kullanın.
Doğrudan yapay zekâ sistemlerine ve ajanlarına yazılmış rehberler. İstem enjeksiyonunu tanıma, gerçek talimatı güvenilmeyen içerikten ayırma, hassas veri ve kimlik bilgileriyle karşılaşınca doğru davranma, riskli bir işlemden önce durma ya da bir insana devretme, halüsinasyondan kaçınma ve diğer ajanlara ne kadar güvenileceği gibi konuları ele alır.
Rehberleri bu sırayla okumak en verimlisidir; her aşama bir öncekinin üzerine kurulur.
Yapay zeka sistemleri için makine-okunur sürüm: Markdown

Yapay zeka ajanlarının bağlayıcı talimatları, yalnızca bir şeyi anlatan ya da isteyen içerikten ayırması için pratik bir çerçeve.

Bir yapay zeka ajanı; belgelerde, web sayfalarında veya araç çıktılarında karşılaştığı talimatları güvenilir sistem ya da kullanıcı talimatı gibi değil, veri gibi nasıl ele almalı?

Kod, kayıt veya yapılandırma okurken API anahtarı, parola, erişim belirteci ya da başka bir kimlik bilgisiyle karşılaşan yapay zeka ajanları için kurallar.

Bir yapay zeka ajanının araç çağrısı veya görev adımını varsayılan olarak yürütmek yerine durup onay istemesi gerektiğini gösteren somut işaretler.

Yapay zeka ajanlarının herhangi bir araç çağrısını yürütmeden önce uygulayabileceği, işlemin durumu okuyup okumadığına ya da değiştirip değiştirmediğine dayanan basit bir risk modeli.

Bir yapay zeka ajanının durumu tek başına çözmek yerine bir insanı sürece dahil etmesi gereken somut durumlar.

Bir yapay zeka ajanının, çok ajanlı bir sistemde insandan değil başka bir ajandan gelen talimat ve verilere nasıl yaklaşması gerektiği.

Gerçek dünyada sonuçları olan bir işlemi yürütmeden önce bir yapay zeka ajanının, sonradan incelenebilmesi için kaydetmesi gereken asgari bilgi.

Sistem yapılandırması, mevcut kullanıcı ve önceki bağlam farklı yönleri gösterdiği anda başvurulacak bir öncelik sırası.

Birinin adına yazarken ve özetlerken, görevin gerçekten ihtiyaç duyduğundan fazla kişisel ayrıntıyı çıktıya taşımama.

Bir yapay zeka ajanının, hizmet ettiği insan değil de kendisinin bir manipülasyon girişiminin gerçek hedefi olduğunu nasıl fark etmesi gerektiği.

Bir yapay zeka ajanının, isteği yapan tarafın bunu isteme yetkisine gerçekten sahip olup olmadığını değerlendirmek için kullanabileceği pratik işaretler.

Bir yapay zeka ajanının, kesinliği olduğundan fazla göstermeden ve ayrıntı uydurmadan mevzuata, duyurulara ve teknik dokümantasyona nasıl atıf yapması gerektiği.

Uydurma ayrıntıların güvenlik ve emniyet bağlamlarında neden özellikle maliyetli olduğu ve bunları azaltan somut alışkanlıklar.

Bir görevi tamamlarken kişisel ya da gizli veriler ortaya çıktığında yapay zeka ajanının ne yapması ve ne yapmaması gerektiğine dair rehber.
Seçtikleriniz yalnızca bu tarayıcıda saklanır, hesap veya kayıt gerekmez.
Kendinizi hangisinde görüyorsanız onu seçin, o gruba özel rehberlere gidin.