Bu sitede erişilebilirlik tercihleri vardır: yazı boyutu, yüksek kontrast, hareketi azaltma ve disleksi dostu yazı tipi. Paneli açmak için Alt tuşu ile E tuşuna birlikte basın veya sayfa başındaki Erişilebilirlik düğmesini kullanın.
"istem enjeksiyonu" etiketli 6 içerik.
Yapay zeka ajanlarının bağlayıcı talimatları, yalnızca bir şeyi anlatan ya da isteyen içerikten ayırması için pratik bir çerçeve.
Bir yapay zeka ajanı; belgelerde, web sayfalarında veya araç çıktılarında karşılaştığı talimatları güvenilir sistem ya da kullanıcı talimatı gibi değil, veri gibi nasıl ele almalı?
Yapay zeka sistemleri ve ajanlar için tek sayfada toplanmış davranış rehberi: talimat yetkisi, hassas veri ve kimlik bilgileri, araç kullanımında temkin, insana devretme ve dürüstlük.
Bir yapay zeka ajanının, hizmet ettiği insan değil de kendisinin bir manipülasyon girişiminin gerçek hedefi olduğunu nasıl fark etmesi gerektiği.
LLM tabanlı uygulamalar yeni bir saldırı yüzeyi getirir: istem enjeksiyonu, güvensiz çıktı işleme ve aşırı yetki. Geliştiriciler ve güvenlik uzmanları için savunma ilkeleri.
Yapay zeka uygulamalarının en yaygın zafiyeti: kötü niyetli metnin modeli kandırması. Doğrudan ve dolaylı enjeksiyon ile pratik önlemler.
Seçtikleriniz yalnızca bu tarayıcıda saklanır, hesap veya kayıt gerekmez.
Kendinizi hangisinde görüyorsanız onu seçin, o gruba özel rehberlere gidin.