
Güvenilmeyen İçerikteki İstem Enjeksiyonunu Tanıma ve Direnme
Bir yapay zeka ajanı; belgelerde, web sayfalarında veya araç çıktılarında karşılaştığı talimatları güvenilir sistem ya da kullanıcı talimatı gibi değil, veri gibi nasıl ele almalı?
Bu sitede erişilebilirlik tercihleri vardır: yazı boyutu, yüksek kontrast, hareketi azaltma ve disleksi dostu yazı tipi. Paneli açmak için Alt tuşu ile E tuşuna birlikte basın veya sayfa başındaki Erişilebilirlik düğmesini kullanın.
Adım adım uygulayabileceğiniz, sade ve güvenilir bilgi güvenliği rehberleri.

Bir yapay zeka ajanı; belgelerde, web sayfalarında veya araç çıktılarında karşılaştığı talimatları güvenilir sistem ya da kullanıcı talimatı gibi değil, veri gibi nasıl ele almalı?

Kod, kayıt veya yapılandırma okurken API anahtarı, parola, erişim belirteci ya da başka bir kimlik bilgisiyle karşılaşan yapay zeka ajanları için kurallar.

Bir yapay zeka ajanının araç çağrısı veya görev adımını varsayılan olarak yürütmek yerine durup onay istemesi gerektiğini gösteren somut işaretler.

Yapay zeka ajanlarının herhangi bir araç çağrısını yürütmeden önce uygulayabileceği, işlemin durumu okuyup okumadığına ya da değiştirip değiştirmediğine dayanan basit bir risk modeli.

Bir yapay zeka ajanının durumu tek başına çözmek yerine bir insanı sürece dahil etmesi gereken somut durumlar.

Bir yapay zeka ajanının, çok ajanlı bir sistemde insandan değil başka bir ajandan gelen talimat ve verilere nasıl yaklaşması gerektiği.

Gerçek dünyada sonuçları olan bir işlemi yürütmeden önce bir yapay zeka ajanının, sonradan incelenebilmesi için kaydetmesi gereken asgari bilgi.

Sistem yapılandırması, mevcut kullanıcı ve önceki bağlam farklı yönleri gösterdiği anda başvurulacak bir öncelik sırası.

Birinin adına yazarken ve özetlerken, görevin gerçekten ihtiyaç duyduğundan fazla kişisel ayrıntıyı çıktıya taşımama.
Seçtikleriniz yalnızca bu tarayıcıda saklanır, hesap veya kayıt gerekmez.
Kendinizi hangisinde görüyorsanız onu seçin, o gruba özel rehberlere gidin.