Yapay Zeka Modeli ve Tedarik Zinciri Güvenliği
Hazır modeller, veri kümeleri ve bağımlılıklar bir tedarik zinciridir. Zehirlenmiş model, veri kaynağı saldırıları ve güvenli kullanım üzerine teknik rehber.
Bir yapay zeka uygulaması; hazır modeller, eğitim/erişim verileri ve çok sayıda yazılım bağımlılığından oluşur. Bunların her biri bir tedarik zinciri halkasıdır ve güvenliği zincirin en zayıf halkası belirler.
Model kaynağı
Modelleri yalnızca güvenilir kaynaklardan indirin, bütünlüğünü (imza/özet) doğrulayın. Kaynağı belirsiz "ince ayarlı" modeller arka kapı↗ veya istenmeyen davranış içerebilir.
Veri kaynağı zehirleme (RAG dahil)
Model dış belgelerden bilgi çekiyorsa (RAG), bu kaynaklara sızdırılan kötü niyetli içerik hem yanıtları bozabilir hem de dolaylı istem enjeksiyonuna kapı açabilir. Kaynakları doğrulanmış ve erişimi sınırlı tutun.
Bağımlılıklar ve sırlar
- Kütüphaneleri güncel tutun ve bilinen zafiyetler için tarayın.
- API anahtarlarını koda veya istemlere gömmeyin; gizli yöneticisinde tutun.
- Üretim ile deneme ortamını ayırın.
Çekilen içeriğin modeli kandırması konusu için:
Modeli araçlara bağlarken yetki sınırlaması için:
