Görüşümüz
Asistanlar, sıradan yazılımların yapmadığı biçimde hata yapar: Yanlış işi kendinden emin biçimde tamamlar, döngüye girer ya da bir belgenin içine gizlenmiş bir talimatı uygular. Bu durumlar beklenmez, aranarak bulunur.
Hata kataloğu aynı zamanda bir dokümantasyondur. Sistemi devralan ekibe neyin denendiğini ve sistemden asla ne istenmemesi gerektiğini anlatır.
Benimsemeden önce
- Bilinen hatalı girdilerden bir set oluşturulmalı ve her sürümde çalıştırılmalı.
- Belgelere ve web sayfalarına gizlenmiş prompt enjeksiyonları da test edilmeli.
- Her hata, girdisi, modeli ve prompt sürümüyle birlikte kaydedilmeli.






