PiKe
Member
Yapay Zekadaki teknolojik gelişmeler (AI) baş döndürücü bir hızla genişlemeye devam ediyor. Ancak dikkatli olun: kullanımı toplumda fayda sağlayabilir veya risklere neden olabilir. Kamuya açık bilgilere erişmek için yapay zekanın uygulanmasına ne olur? Riskleri ve faydaları nelerdir? Bu sorular işin eksenlerinden biriydi. çekişme “#Geleceğe Doğru. Bilgi dünyasında yapay zeka”, bu hafta Ulusal Kongre Kütüphanesi'ndeki Leonardo Favio Oditoryumu'nda geniş bir izleyici kitlesi önünde yeni teknolojiler ve kamuyu bilgilendirmeye ilişkin perspektifler hakkındaki ilk tartışma ortaklaşa gerçekleştirildi. Birleşmiş Milletler Arjantin ile. Ayrıca, aracılığıyla iletildi yayın Akışı YouTube tarafından.
“#Geleceğe doğru. Bilgi dünyasında yapay zeka” Ulusal Kongre Kütüphanesi’nde sunulan konferansın başlığıydı. Fotoğraflar: nezaket.
“Bugün yeni bir zorlukla karşı karşıyayız: Yapay Zeka. Yardımın geleceğine yürekten inanıyoruz Toplumdaki bilgileri doğrulama sorumluluğu olan bizler için” dedi. Alejandro Santa, Ulusal Kongre Kütüphanesi Genel Koordinatör Direktörüaçılışta.
“Yapay Zeka ve dezenformasyon. Temel etik konular, fırsatlar ve zorluklar” tartışmasını aşağıdaki isimlerden oluşan bir panelle başlattık: Matias Ponce (bölge ofisi temsilcisi) UNESCO Montevideo) ve Eduardo Ceccotti (İletişim Direktörü Kontrol).
Kamuya açık bilgilere erişim
Olumlu olan şey ise Yapay Zekanın insanların yaşamlarında devrim yaratma potansiyeli: “Çeşitli sektörlerin verimliliğinin arttırılmasından yenilikçi çözümler sunmak karmaşık sorunlara” dedi. Tamar HahnYöneticisil Birleşmiş Milletler Arjantin Bilgi Merkezi ve moderatör rolüyle Uruguay.
“Yapay zekanın kamuya açık bilgileri geliştirmek için sunduğu en umut verici fırsatlar nelerdir? “Olumlu etkisini nasıl en üst düzeye çıkarabiliriz ve ana riskleri neler olabilir?” diye sordu.
“Kamuyu bilgilendirme konularında çalışanlarımız için yapay zekanın bize sunduğu fırsatlar çeşitli açılardan geliyor. Bunlardan ilki, kamuya açık bilgilere erişimde iyileşme”, dedi Matías Ponce.
UNESCO üyesine göre, aktif çevrimiçi şeffaflık süreçleri; sohbet robotlarının tanıtılması veya sanal asistanlar Bunlar, web'de kamuya açık bilgilerin aranması gibi olası sorunlara çözüm olarak yapay zekanın yardımıyla kullanıcıların bilgiye daha hızlı erişebilmeleri için yapay zeka tarafından oluşturulan faydaların bir parçasıdır.
kamu yönetiminde bilginin kişiselleştirilmesi Bu, yalnızca aktif çevrimiçi şeffaflık açısından bilgiye erişim için değil, aynı zamanda kamu hizmetlerinin kullanıcıları için daha kişiselleştirilmiş olan kamu politikalarının tasarımında içerik üretilmesinde de yapay zeka kullanımının sağladığı olumlu önyargılardan bir diğeridir. .
“Algoritmaların bilgiyi saklayabildiği ve kamu hizmeti kullanıcısını daha iyi tanıyabildiği bir fırsat daha var. Bu nedenle yapay zeka teknolojisi Devlete yaklaşanlara daha kişiselleştirilmiş deneyimler sağlayabilir ve kamu politikalarına,” diye ekledi Ponce.
UNESCO, Latin Amerika ve Karayipler'de yapay zekanın haber odalarındaki tanıtımına atıfta bulunan iletişim ve bilgi defterleri hazırladı. “Bir haber odasında verilebilecek tüm fırsatları, her şeyden önce, değerlendiriyoruz. yeni çalışma ufukları Gazeteciliğin sosyal gerçekliğini özetleyenler için,” diye vurguladı Ponce.
Bunun için eğitim ve öğretime ihtiyaç vardır. Kullanımlarını en üst düzeye çıkarmak için toplumu daha büyük araçlarla besleyin. “Biz buna Bilgi Medyası Okuryazarlığı (AMI) diyoruz; vatandaşların bu araçları kritik bir şekilde kullanmaları için sahip oldukları yetenekleri geliştirmeye yönelik bir araç veya eylem alanı. Bu ilk yaklaşım eğitime güçlü bir vurgudur,” diye vurguladı Ponce.
Yapay zeka kullanımı düzenlenebilir mi?
“Evet düzenlenebilir. Yapay zekaya ilişkin kamu politikalarına yönelik ulusal planlar konusunda ilerleme kaydedilebiliryaratmak düzenleyici çerçeveler ancak çok aktörlü bir yaklaşıma sahip olmaları gerekiyor: yani UNESCO'nun iletişim politikası konularında medya düzenlemesi için önerdiği yaklaşımın aynısı.”
“Bu: tüm oyuncular masaya oturmalıdır. 193 üye devlet tarafından onaylanan yapay zeka etik tavsiyesinin oluşturulması, bu konu üzerinde çalışmak için ufukta ortak ve kesişen bir anlaşmaya varmak için açık bir yaklaşımdır,” diye tamamladı Ponce.
Başlıca riskler nelerdir?
Büyük zorluklar var gizlilik ve veri güvenliği konuları. Ponce, “Bunu durdurabilecek hiçbir düzenleyici çerçeve yok çünkü teknoloji her zaman her türlü çabadan önce gelir” diye açıkladı.
Kötü niyetle, Yapay Zekayla, özellikle de üretken yapay zekayla ilgiliyse, bu kadar ciddi yönleri üretebilir ve derinleştirebilir Önyargıların inşasından kaynaklanan çevrimiçi nefret söylemi gibi.
“Başka bir ufuk belki daha da kötü olabilir: Yapay zekanın özellikle kullanılabilirlik politikaları çerçevesinde önyargılı kullanımı: eğer açık bir düzenleyici çerçeve yoksa alarm olabilir“, belirtti.
Yanında sosyal ağlarda yapay zeka ile içerik denetimi kısıtlama süreçleriyle sonuçlanabilir. İfade özgürlüğü“UNESCO üyesini uyardı.
“#Geleceğe doğru. Bilgi dünyasında yapay zeka” Ulusal Kongre Kütüphanesi’nde sunulan konferansın başlığıydı. Fotoğraflar: nezaket.
Üçüncüsü teknolojik bağımlılıktır. “Yapay zeka araçlarına adil erişime sahip değilsek, erişim boşlukları yeniden oluşturulacak bu zaten mevcut,” dedi Ponce.
Ayrıca şunlar da var: dezenformasyon süreçleri Bir risk faktörü olarak. Hepsinden önemlisi, orijinal, orijinal veya gerçek görünmeleri için yapay zeka yazılımı aracılığıyla değiştirilen video, görüntü veya ses dosyalarının kullanımında. Buna denir derin sahte.
Ağlarda meydana gelebilecek kamusal tartışmaların kullanımına ek olarak, “ne olur? A derin sahte yargı sürecine müdahale ediyor ve bu sürecin ortasında delil olarak mı sunuluyor?” diye sordu Ponce.
Yanlış bilgilendirme ile nefret söylemi arasında
Kamuya açık konuşmaların doğrulanması ve web sitesi aracılığıyla dezenformasyonla mücadele konusunda uzman olan Chequeado adlı STK, şu uyarıda bulunuyor: Yapay zekanın kötü niyetli kullanımı demokratik sistemlerde olumsuz sonuçlar doğurabilir ve toplumda.
“Dezenformasyon hakkında konuştuğumuzda şunu söylüyoruz: Demokrasinin sağlığı için risk. Dezenformasyon temel bir hakkı etkiliyor: vatandaşlar olarak kararlarımızı verebilmemiz için açık, şeffaf ve doğrulanmış bilgiler alabilmemiz için bilgi edinme hakkı” dedi Chequeado.com İletişim Direktörü Eduardo Ceccotti.
O da şunu söyledi Teknoloji yanlış bilginin dolaşımını hızlandırdı ve kolaylaştırdı: “Yapay zeka şu ana kadar pastanın kremasıydı ama menü bunu takip edecek. “Yanlış bilgiyi hızlandıran teknoloji bağlamında yapay zeka, demokrasilerin sağlığı ve vatandaşlar için bir sorun teşkil ediyor.”
Etki nasıl azaltılır?
Checcotti, Chequeado ve diğer uluslararası kuruluşların Yapay Zekayı uzun süredir kullandıklarına dikkat çekti. Dezenformasyona karşı mücadelenin lehine bir araç.
“2016'dan bu yana kendi gelişimimizi oluşturmak için yapay zekayla deneyler yapıyoruz. Örneğin, CheqeaBot adında geliştirilmiş bir yapay zeka merkezimiz var: işimizi daha hızlı yapmamızı sağlardaha geniş bir erişime sahip olun, yanlış bilginin olduğu yere daha hızlı ulaşın, bilgiyi daha hızlı doğrulayın ki gazetecilerimiz bu teknolojiye güvenebilsin. daha hızlı kontrol et”dedi İletişim Direktörü.
Ceccotti ayrıca farklı sektörler arasındaki işbirlikçi çaba ve organizasyonun altını çizdi. Dezenformasyona karşı mücadele işbirlikçidirÖzellikle yapay zeka, dezenformasyon (deepfake) üretme kapasitesini artırmak için mevcut olduğunda.
“Şüphe etmeye başladığımız sesleri, görüntüleri, videoları dinlemeye başladık… En büyük risk her şeyden şüphe etmeye başlamaktırher şeye inanmayı bıraktığımız, artık hiçbir şeyin bize doğru gelmediği. Hızlı veya işbirliği içinde hareket etmezsek, açığa çıkabiliriz.”
Yukarıda adı geçen ChequeaBot'a ek olarak Chequeado, konuşmaların ve kamuya açık sunumların otomatik transkripsiyonlarını oluşturmak için başka AI araçlarını da kullanıyor.
“Şirketle birlikte çalışıyorduk” başkanlık tartışmalarının ve konuşmalarının otomatik transkripsiyonu. Son baskıda, yapay zekanın gelişimi sayesinde, gazetecilerin, araştırmacıların, bilim adamlarının veya bu transkripsiyona ihtiyaç duyanların kendi yatırımlarını yapmak zorunda kalmadan hızlı bir şekilde elde edebilmeleri için bunu sitemizde topluluğun kullanımına sunabildik. klasik kayıttaki süre. Bu aynı zamanda müdahale edebilmemize ve yanlış bilgilerin durdurulmasına hızla katkıda bulunabilmemize de olanak tanıyor” dedi.
Öte yandan yapay zekanın ilerleme hızı ve Kötü niyetli kullanımı sosyal ağlarda çılgınca arttı, yanlış bilgi açısından çok daha güçlü bir frekanstır. Dezenformasyona karşı mücadele edenler tetikte olmayı sürdürüyor ve yanlış haberleri veya ünlü “sahte haberleri” ortadan kaldırmanın yollarını arıyor.
“Arttırmak dezenformasyonun virallik kapasitesi Bu da nihayetinde vatandaşlar üzerindeki olumsuz etkilerini artırıyor ve dolayısıyla demokrasilerin sağlığının sorgulanmasına katkıda bulunuyor” diye uyardı Ceccotti.
“Bizim için Bu büyük bir endişe Dünyanın dört bir yanındaki teyitçilerin dezenformasyona karşı mücadeleye baktığı nokta da budur: demokrasinin sağlığını korumak için çalışmak” diye sözlerini tamamladı.
“#Geleceğe doğru. Bilgi dünyasında yapay zeka” Ulusal Kongre Kütüphanesi’nde sunulan konferansın başlığıydı. Fotoğraflar: nezaket.
“Bugün yeni bir zorlukla karşı karşıyayız: Yapay Zeka. Yardımın geleceğine yürekten inanıyoruz Toplumdaki bilgileri doğrulama sorumluluğu olan bizler için” dedi. Alejandro Santa, Ulusal Kongre Kütüphanesi Genel Koordinatör Direktörüaçılışta.
“Yapay Zeka ve dezenformasyon. Temel etik konular, fırsatlar ve zorluklar” tartışmasını aşağıdaki isimlerden oluşan bir panelle başlattık: Matias Ponce (bölge ofisi temsilcisi) UNESCO Montevideo) ve Eduardo Ceccotti (İletişim Direktörü Kontrol).
Kamuya açık bilgilere erişim
Olumlu olan şey ise Yapay Zekanın insanların yaşamlarında devrim yaratma potansiyeli: “Çeşitli sektörlerin verimliliğinin arttırılmasından yenilikçi çözümler sunmak karmaşık sorunlara” dedi. Tamar HahnYöneticisil Birleşmiş Milletler Arjantin Bilgi Merkezi ve moderatör rolüyle Uruguay.
“Yapay zekanın kamuya açık bilgileri geliştirmek için sunduğu en umut verici fırsatlar nelerdir? “Olumlu etkisini nasıl en üst düzeye çıkarabiliriz ve ana riskleri neler olabilir?” diye sordu.
“Kamuyu bilgilendirme konularında çalışanlarımız için yapay zekanın bize sunduğu fırsatlar çeşitli açılardan geliyor. Bunlardan ilki, kamuya açık bilgilere erişimde iyileşme”, dedi Matías Ponce.
UNESCO üyesine göre, aktif çevrimiçi şeffaflık süreçleri; sohbet robotlarının tanıtılması veya sanal asistanlar Bunlar, web'de kamuya açık bilgilerin aranması gibi olası sorunlara çözüm olarak yapay zekanın yardımıyla kullanıcıların bilgiye daha hızlı erişebilmeleri için yapay zeka tarafından oluşturulan faydaların bir parçasıdır.
kamu yönetiminde bilginin kişiselleştirilmesi Bu, yalnızca aktif çevrimiçi şeffaflık açısından bilgiye erişim için değil, aynı zamanda kamu hizmetlerinin kullanıcıları için daha kişiselleştirilmiş olan kamu politikalarının tasarımında içerik üretilmesinde de yapay zeka kullanımının sağladığı olumlu önyargılardan bir diğeridir. .
“Algoritmaların bilgiyi saklayabildiği ve kamu hizmeti kullanıcısını daha iyi tanıyabildiği bir fırsat daha var. Bu nedenle yapay zeka teknolojisi Devlete yaklaşanlara daha kişiselleştirilmiş deneyimler sağlayabilir ve kamu politikalarına,” diye ekledi Ponce.
UNESCO, Latin Amerika ve Karayipler'de yapay zekanın haber odalarındaki tanıtımına atıfta bulunan iletişim ve bilgi defterleri hazırladı. “Bir haber odasında verilebilecek tüm fırsatları, her şeyden önce, değerlendiriyoruz. yeni çalışma ufukları Gazeteciliğin sosyal gerçekliğini özetleyenler için,” diye vurguladı Ponce.
Bunun için eğitim ve öğretime ihtiyaç vardır. Kullanımlarını en üst düzeye çıkarmak için toplumu daha büyük araçlarla besleyin. “Biz buna Bilgi Medyası Okuryazarlığı (AMI) diyoruz; vatandaşların bu araçları kritik bir şekilde kullanmaları için sahip oldukları yetenekleri geliştirmeye yönelik bir araç veya eylem alanı. Bu ilk yaklaşım eğitime güçlü bir vurgudur,” diye vurguladı Ponce.
Yapay zeka kullanımı düzenlenebilir mi?
“Evet düzenlenebilir. Yapay zekaya ilişkin kamu politikalarına yönelik ulusal planlar konusunda ilerleme kaydedilebiliryaratmak düzenleyici çerçeveler ancak çok aktörlü bir yaklaşıma sahip olmaları gerekiyor: yani UNESCO'nun iletişim politikası konularında medya düzenlemesi için önerdiği yaklaşımın aynısı.”
“Bu: tüm oyuncular masaya oturmalıdır. 193 üye devlet tarafından onaylanan yapay zeka etik tavsiyesinin oluşturulması, bu konu üzerinde çalışmak için ufukta ortak ve kesişen bir anlaşmaya varmak için açık bir yaklaşımdır,” diye tamamladı Ponce.
Başlıca riskler nelerdir?
Büyük zorluklar var gizlilik ve veri güvenliği konuları. Ponce, “Bunu durdurabilecek hiçbir düzenleyici çerçeve yok çünkü teknoloji her zaman her türlü çabadan önce gelir” diye açıkladı.
Kötü niyetle, Yapay Zekayla, özellikle de üretken yapay zekayla ilgiliyse, bu kadar ciddi yönleri üretebilir ve derinleştirebilir Önyargıların inşasından kaynaklanan çevrimiçi nefret söylemi gibi.
“Başka bir ufuk belki daha da kötü olabilir: Yapay zekanın özellikle kullanılabilirlik politikaları çerçevesinde önyargılı kullanımı: eğer açık bir düzenleyici çerçeve yoksa alarm olabilir“, belirtti.
Yanında sosyal ağlarda yapay zeka ile içerik denetimi kısıtlama süreçleriyle sonuçlanabilir. İfade özgürlüğü“UNESCO üyesini uyardı.
Üçüncüsü teknolojik bağımlılıktır. “Yapay zeka araçlarına adil erişime sahip değilsek, erişim boşlukları yeniden oluşturulacak bu zaten mevcut,” dedi Ponce.
Ayrıca şunlar da var: dezenformasyon süreçleri Bir risk faktörü olarak. Hepsinden önemlisi, orijinal, orijinal veya gerçek görünmeleri için yapay zeka yazılımı aracılığıyla değiştirilen video, görüntü veya ses dosyalarının kullanımında. Buna denir derin sahte.
Ağlarda meydana gelebilecek kamusal tartışmaların kullanımına ek olarak, “ne olur? A derin sahte yargı sürecine müdahale ediyor ve bu sürecin ortasında delil olarak mı sunuluyor?” diye sordu Ponce.
Yanlış bilgilendirme ile nefret söylemi arasında
Kamuya açık konuşmaların doğrulanması ve web sitesi aracılığıyla dezenformasyonla mücadele konusunda uzman olan Chequeado adlı STK, şu uyarıda bulunuyor: Yapay zekanın kötü niyetli kullanımı demokratik sistemlerde olumsuz sonuçlar doğurabilir ve toplumda.
“Dezenformasyon hakkında konuştuğumuzda şunu söylüyoruz: Demokrasinin sağlığı için risk. Dezenformasyon temel bir hakkı etkiliyor: vatandaşlar olarak kararlarımızı verebilmemiz için açık, şeffaf ve doğrulanmış bilgiler alabilmemiz için bilgi edinme hakkı” dedi Chequeado.com İletişim Direktörü Eduardo Ceccotti.
O da şunu söyledi Teknoloji yanlış bilginin dolaşımını hızlandırdı ve kolaylaştırdı: “Yapay zeka şu ana kadar pastanın kremasıydı ama menü bunu takip edecek. “Yanlış bilgiyi hızlandıran teknoloji bağlamında yapay zeka, demokrasilerin sağlığı ve vatandaşlar için bir sorun teşkil ediyor.”
Etki nasıl azaltılır?
Checcotti, Chequeado ve diğer uluslararası kuruluşların Yapay Zekayı uzun süredir kullandıklarına dikkat çekti. Dezenformasyona karşı mücadelenin lehine bir araç.
“2016'dan bu yana kendi gelişimimizi oluşturmak için yapay zekayla deneyler yapıyoruz. Örneğin, CheqeaBot adında geliştirilmiş bir yapay zeka merkezimiz var: işimizi daha hızlı yapmamızı sağlardaha geniş bir erişime sahip olun, yanlış bilginin olduğu yere daha hızlı ulaşın, bilgiyi daha hızlı doğrulayın ki gazetecilerimiz bu teknolojiye güvenebilsin. daha hızlı kontrol et”dedi İletişim Direktörü.
Ceccotti ayrıca farklı sektörler arasındaki işbirlikçi çaba ve organizasyonun altını çizdi. Dezenformasyona karşı mücadele işbirlikçidirÖzellikle yapay zeka, dezenformasyon (deepfake) üretme kapasitesini artırmak için mevcut olduğunda.
“Şüphe etmeye başladığımız sesleri, görüntüleri, videoları dinlemeye başladık… En büyük risk her şeyden şüphe etmeye başlamaktırher şeye inanmayı bıraktığımız, artık hiçbir şeyin bize doğru gelmediği. Hızlı veya işbirliği içinde hareket etmezsek, açığa çıkabiliriz.”
Yukarıda adı geçen ChequeaBot'a ek olarak Chequeado, konuşmaların ve kamuya açık sunumların otomatik transkripsiyonlarını oluşturmak için başka AI araçlarını da kullanıyor.
“Şirketle birlikte çalışıyorduk” başkanlık tartışmalarının ve konuşmalarının otomatik transkripsiyonu. Son baskıda, yapay zekanın gelişimi sayesinde, gazetecilerin, araştırmacıların, bilim adamlarının veya bu transkripsiyona ihtiyaç duyanların kendi yatırımlarını yapmak zorunda kalmadan hızlı bir şekilde elde edebilmeleri için bunu sitemizde topluluğun kullanımına sunabildik. klasik kayıttaki süre. Bu aynı zamanda müdahale edebilmemize ve yanlış bilgilerin durdurulmasına hızla katkıda bulunabilmemize de olanak tanıyor” dedi.
Öte yandan yapay zekanın ilerleme hızı ve Kötü niyetli kullanımı sosyal ağlarda çılgınca arttı, yanlış bilgi açısından çok daha güçlü bir frekanstır. Dezenformasyona karşı mücadele edenler tetikte olmayı sürdürüyor ve yanlış haberleri veya ünlü “sahte haberleri” ortadan kaldırmanın yollarını arıyor.
“Arttırmak dezenformasyonun virallik kapasitesi Bu da nihayetinde vatandaşlar üzerindeki olumsuz etkilerini artırıyor ve dolayısıyla demokrasilerin sağlığının sorgulanmasına katkıda bulunuyor” diye uyardı Ceccotti.
“Bizim için Bu büyük bir endişe Dünyanın dört bir yanındaki teyitçilerin dezenformasyona karşı mücadeleye baktığı nokta da budur: demokrasinin sağlığını korumak için çalışmak” diye sözlerini tamamladı.