bir makine öğrenmesi modelinin eğitim verilerine kasıtlı olarak yanıltıcı veya hatalı örnekler ekleyerek modelin davranışını bozma saldırısı. verinin kaynağını ve bütünlüğünü doğrulamak bu yüzden model güvenliğinin temel parçalarındandır.
entries (6)
-
yapay zeka veri zehirleme
-
model sicaklik parametresi
bir yapay zeka modelinin cevap üretirken ne kadar rastlantısal davranacağını belirleyen ayar. düşük değerler daha tutarlı ve öngörülebilir, yüksek değerler ise daha yaratıcı ama dağınık sonuçlar üretir.
-
retrieval augmented generation
dil modelinin yalnızca eğitim sırasında öğrendikleriyle yetinmeyip, cevap üretmeden önce dış bir bilgi kaynağından ilgili belgeleri bulup kullanması. güncel ve kaynaklı cevaplar vermeyi kolaylaştırır; ancak bulunan bilginin doğruluğunun ayrıca kontrol edilmesi gerekir.
-
yapay zekadan korkmak
robotların dünyayı ele geçirmesinden önce, insanların kendilerine ait kararları algoritma böyle önerdi diyerek devretmesinden korkmak gerektiğini düşündüren endişe.
-
yapay zeka caginda tembellik
bir işi yapmaktan kurtulmakla o işi öğrenme fırsatını kaçırmak arasındaki ince çizginin adı. doğru kullanılırsa asistan, yanlış kullanılırsa zihinsel koltuk değneği.
-
yapay zeka ile konusurken
karşınızdaki bir insan olmadığı için cümleyi yarıda kesmeden, yargılanma hissine kapılmadan ve bazen kendi düşüncenizi daha iyi duyacak kadar rahat konuşabildiğiniz yeni nesil monolog. yine de akıcı cevap veren her şeyin anlayan bir şey olmadığını hatırlamak gerekiyor.