amerikali
Yeni Üye
Tüv Nord yapay zeka ikili rolünde: kullanıcı ve denetçi
Reklamcılık
Tüv Nord, yapay zeka sistemlerini gelecek AB düzenlemelerine uygun olarak sertifikalandırmaya hazırlanıyor. Ancak şirket ikili bir rol üstleniyor; İnceleme sürecinde yer almak isterken kendileri de yapay zeka sistemlerini kullanıyorlar. Tüv Nord'un bir yan kuruluşu olan Tüv IT'den Vasilios Danos, Tüv'ün yapay zeka sohbet robotlarından yapay zeka destekli test sistemlerine kadar dahili süreçler için yapay zeka kullandığını ve ayrıca test konusu olarak yapay zeka sistemlerine sahip olduğunu açıklıyor. Üretken yapay zekanın her zaman olduğu gibi özel bir rolü var. Çünkü AI Yasasına göre bunun da özel olarak sertifikalandırılması gerekiyor. Ancak bunun tam olarak neye benzeyeceği birçok yerde hala belirsiz.
Herkesin bir AI chatbot'u veya GPT'yi istediği gibi çalıştıramayacağı açıktır. Danos, öncelikle yapay zeka sağlayıcısının modellerini test etmesi ve sertifikalandırması gerektiğini açıklıyor. Bu, örneğin OpenAI'nin GPT-4 için sertifikasyon sürecinden geçtiği anlamına geliyor. Daha sonra ChatGPT'yi kullanan herkesin başka bir şey düşünmesine gerek kalmayacak. Ancak her türlü değişikliğin yapıldığı bir GPT geliştiren herkesin onu tekrar kontrol ettirmesi gerekebilir. “AB Komisyonu, bu uyum maliyetlerinin ne kadar yüksek olabileceğini tahmin etme nezaketini gösterdi. Ortaya çıkan rakam, bu temel modellerin geliştirme maliyetlerinin yaklaşık yüzde biri kadardı. İlk başta bu kadar fazla görünmeyebilir, “Ama eğer Yarım milyar civarında olan GPT-4'ü geliştirmenin maliyetine bakın, bu çok fazla,” diye açıklıyor Danos.
Uygulamaların iyileştirilmesi olarak sertifikasyon
Test kriterleri ve yöntemleri, anında enjeksiyon, jailbreak veya dil modellerinde toksik davranışlar gibi yapay zekaya özgü riskleri değerlendirmek için mevcuttur. Çünkü bu risklerin önlenemeyeceğini biliyoruz. Yani sonuçta yalnızca belirli bir uygulama için bunların ne kadar büyük olduğunu söyleyebilirsiniz ve bunları en aza indirmeyi de deneyebilirsiniz. Danos şöyle diyor: “%100 güvenlik olamaz ama engeller mümkün olduğunca yüksek olmalı.” Belki aktivistler ve bilgisayar korsanları yapay zeka sistemlerini alt edebilirler ama normal bir kullanıcıyı başaramazlar. Yapay zeka modelinin ona herhangi bir sorun yaratmaması gerekiyor. Danos, “Bir şirketin müşterileriyle iletişim halinde olan bir sohbet robotunun olduğunu ve birdenbire sohbet robotunun kullanıcıya hakaret etmeye veya belki de kadın düşmanı veya ırkçı stereotipleri tekrarlamaya başladığını hayal edin” diye uyarıyor Danos. Hiçbir şirket bunu istemez, var olan basın iyi bir basın değildir. Buna göre sertifikasyon aynı zamanda yapay zeka sistemleri için bir iyileştirme süreci görevi de görüyor.
Danos'a göre yapay zeka kullanımının bazı uygulamalar için yararlı olmaması bekleniyor. Örneğin tıp sektöründe yapay zeka ile otomatikleştirilebilecek birçok uygulama var. “Fakat sonuçta her şeyin insanlar tarafından kontrol edilmesi ve kontrol edilmesi gerekiyor, bu yüzden çoğu zaman yapay zekayı kullanmaya bile değmez.” GDPR gerekliliklerinin yapay zekada uygulanması zor olduğundan, zorluklar arasında veri koruma da yer alıyor.
(emw)
Haberin Sonu
Reklamcılık
Tüv Nord, yapay zeka sistemlerini gelecek AB düzenlemelerine uygun olarak sertifikalandırmaya hazırlanıyor. Ancak şirket ikili bir rol üstleniyor; İnceleme sürecinde yer almak isterken kendileri de yapay zeka sistemlerini kullanıyorlar. Tüv Nord'un bir yan kuruluşu olan Tüv IT'den Vasilios Danos, Tüv'ün yapay zeka sohbet robotlarından yapay zeka destekli test sistemlerine kadar dahili süreçler için yapay zeka kullandığını ve ayrıca test konusu olarak yapay zeka sistemlerine sahip olduğunu açıklıyor. Üretken yapay zekanın her zaman olduğu gibi özel bir rolü var. Çünkü AI Yasasına göre bunun da özel olarak sertifikalandırılması gerekiyor. Ancak bunun tam olarak neye benzeyeceği birçok yerde hala belirsiz.
Herkesin bir AI chatbot'u veya GPT'yi istediği gibi çalıştıramayacağı açıktır. Danos, öncelikle yapay zeka sağlayıcısının modellerini test etmesi ve sertifikalandırması gerektiğini açıklıyor. Bu, örneğin OpenAI'nin GPT-4 için sertifikasyon sürecinden geçtiği anlamına geliyor. Daha sonra ChatGPT'yi kullanan herkesin başka bir şey düşünmesine gerek kalmayacak. Ancak her türlü değişikliğin yapıldığı bir GPT geliştiren herkesin onu tekrar kontrol ettirmesi gerekebilir. “AB Komisyonu, bu uyum maliyetlerinin ne kadar yüksek olabileceğini tahmin etme nezaketini gösterdi. Ortaya çıkan rakam, bu temel modellerin geliştirme maliyetlerinin yaklaşık yüzde biri kadardı. İlk başta bu kadar fazla görünmeyebilir, “Ama eğer Yarım milyar civarında olan GPT-4'ü geliştirmenin maliyetine bakın, bu çok fazla,” diye açıklıyor Danos.
Uygulamaların iyileştirilmesi olarak sertifikasyon
Test kriterleri ve yöntemleri, anında enjeksiyon, jailbreak veya dil modellerinde toksik davranışlar gibi yapay zekaya özgü riskleri değerlendirmek için mevcuttur. Çünkü bu risklerin önlenemeyeceğini biliyoruz. Yani sonuçta yalnızca belirli bir uygulama için bunların ne kadar büyük olduğunu söyleyebilirsiniz ve bunları en aza indirmeyi de deneyebilirsiniz. Danos şöyle diyor: “%100 güvenlik olamaz ama engeller mümkün olduğunca yüksek olmalı.” Belki aktivistler ve bilgisayar korsanları yapay zeka sistemlerini alt edebilirler ama normal bir kullanıcıyı başaramazlar. Yapay zeka modelinin ona herhangi bir sorun yaratmaması gerekiyor. Danos, “Bir şirketin müşterileriyle iletişim halinde olan bir sohbet robotunun olduğunu ve birdenbire sohbet robotunun kullanıcıya hakaret etmeye veya belki de kadın düşmanı veya ırkçı stereotipleri tekrarlamaya başladığını hayal edin” diye uyarıyor Danos. Hiçbir şirket bunu istemez, var olan basın iyi bir basın değildir. Buna göre sertifikasyon aynı zamanda yapay zeka sistemleri için bir iyileştirme süreci görevi de görüyor.
Danos'a göre yapay zeka kullanımının bazı uygulamalar için yararlı olmaması bekleniyor. Örneğin tıp sektöründe yapay zeka ile otomatikleştirilebilecek birçok uygulama var. “Fakat sonuçta her şeyin insanlar tarafından kontrol edilmesi ve kontrol edilmesi gerekiyor, bu yüzden çoğu zaman yapay zekayı kullanmaya bile değmez.” GDPR gerekliliklerinin yapay zekada uygulanması zor olduğundan, zorluklar arasında veri koruma da yer alıyor.
(emw)
Haberin Sonu