Draqon
Aktif Üye
Kompakt AI güncellemesi: AI maliyetleri, müzik oluşturucu Udio, Grok-1.5 Vision, AI kötü amaçlı kod
Antropik CEO, en iyi yapay zeka modelleri için maliyetlerin hızla artmasını bekliyor
Reklamcılık
Anthropic CEO'su Dario Amodei, önde gelen yapay zeka dil modellerini eğitme maliyetlerinin önümüzdeki birkaç yıl içinde önemli ölçüde artmasını bekliyor.
Amodei, bugün yaklaşık 100 milyon dolara mal olan en iyi yapay zeka modellerinin maliyetinin yakında 1 milyar dolara, 2025/26'ya kadar ise 10 milyar dolara çıkmasını bekliyor. Amodei'ye göre 2-5 yıl içinde bu tür yapay zeka sistemleri o kadar güçlü olabilir ki artık insanlar tarafından kontrol edilemezler. Geliştirmeyi yavaşlatmanın güvenlik nedenleriyle ters etki yarattığını düşünüyor. Sistemlerin güvenliğini sağlamak için daha fazla ölçeklendirilmesi ve araştırılması gerekecektir. Potansiyel tehlikeleri erken aşamada tespit etmenin ve karşı önlemler geliştirmenin tek yolu budur. Antropik CEO, yapay zekanın biyolojik silahlar veya devletin dezenformasyon kampanyaları için kullanılmasını olası tehlikeler olarak görüyor.
1'den 4'e kadar bir iç risk ölçeğinde bu senaryoları 3. seviyede sınıflandırıyor ve bu seviyedeki risklere bu yıl veya gelecek yıl ulaşılabileceğine inanıyor. Amodei, 2025 ile 2028 arasında en yüksek tehlike seviyesi olan 4'ü bekliyor. Ardından, kendini kopyalayabilen ve daha da geliştirebilen, tamamen yeni kontrol sorularını gündeme getirecek ve varoluşsal riskler getirecek yapay zeka sistemleri bekliyor.
Dario Amodei, yapay zeka güvenliği sorumluluğu da dahil olmak üzere birkaç yıl boyunca OpenAI'de araştırmacı olarak çalıştı ve GPT-2 ile GPT-3'ü geliştiren ekibe liderlik etti. Daha sonra yapay zeka güvenlik araştırmalarına odaklanmak için kız kardeşiyle birlikte Anthropic'i kurdu.
Yeni AI müzik oluşturucu Udio
Suno.ai'den sonra Udio, yapay zeka yoluyla müziğin seri üretimine yönelik bir sonraki platformdur. Halen beta aşamasında olan araç, alternatif rock veya caz gibi çeşitli türlerde vokaller de dahil olmak üzere ikna edici şarkılar oluşturmak için kısa açıklamalar kullanıyor.
Kullanıcılar sadece istenen stil için anahtar sözcükleri ve isteğe bağlı olarak çeşitli dillerdeki şarkı sözlerini de girebilirler. Yapay zeka bundan yola çıkarak şarkının enstrümantal pasajlar ve vokallerle iki versiyonunu yaratıyor. Zaman zaman ses kalitesinde yaşanan eksikliklere rağmen, sonuçlar yaratıcılık ve canlı stereo görüntülemeyle şaşırtıyor.
Ancak teknolojik gelişmeler, sanatsal varlık nedenlerinden korkan müzisyenler arasında da endişelere yol açıyor. Udio ise yetenekli sanatçılarla yakın çalışmaya önem veriyor. Amaç herkesin olağanüstü müzik yaratmasını sağlamaktır.
xAI, çok modlu yapay zeka modeli Grok-1.5 Vision'ı tanıtıyor
Elon Musk'un yapay zeka şirketi xAI, ilk multimodal yapay zeka modeli Grok-1.5 Vision'ı tanıttı. Grok-1.5V, metin özelliklerinin yanı sıra belge, çizelge, grafik, ekran görüntüsü ve fotoğraf gibi görsel bilgileri de işleyebiliyor. İlk testçiler ve mevcut Grok kullanıcıları için yakında kullanıma sunulacaktır.
Çeşitli kıyaslamalarda Grok-1.5V, OpenAI'nin GPT-4'ü, Anthropic'in Claude'u ve Google'ın Gemini Pro'su gibi önde gelen multimodal modellerle rekabet halindedir. Ayrıca xAI'nin gerçek dünyanın mekânsal anlayışını ölçen RealWorldQA değerlendirmesinde de rakiplerinden daha iyi performans gösteriyor.
xAI'ye göre, gerçek dünyaya faydalı yapay zeka asistanları geliştirmek için modellerin fiziksel dünyayı anlaması gerekiyor. Şirket, çok modlu anlayış ve üretim yeteneklerinin daha da geliştirilmesini, yararlı genel yapay zekaya (AGI) yönelik önemli adımlar olarak görüyor. Mayıs ayında xAI'nin, Musk'un GPT-4'ten daha iyi performans göstereceğini söylediği Grok-2'yi piyasaya sürmeyi planladığı bildiriliyor.
Çok para her zaman pek işe yaramaz – bir yorum
Avusturya Kamu İstihdam Kurumu, 500 bin avroluk yüksek maliyetine rağmen ciddi eksikliklerle boğuşan kariyer tavsiyesi için “Berufsinfomat” adlı bir chatbot yayınladı. Bot, basmakalıp cinsiyet stereotipleriyle programlanmış ve kadınlara güzellik sektöründeki işleri, erkeklere ise BT işlerini öneriyor. Teknik gelişmişlik de arzulanan çok şey bırakıyor, bu nedenle sorumluların iyileştirmeler yapması gerekiyordu.
Prensip olarak, yapay zeka kullanımının vasıflı işçi eksikliğini giderebileceği ve rutin görevleri devredebileceği umudu var. Ancak chatbot'un AMS çalışanlarının üzerindeki yükü gerçekten hafifletip hafifletmeyeceği şüpheli, çünkü hala her bildirimi kontrol etmek zorundalar. Bu nedenle verimlilikte herhangi bir kazanç elde edilmesi şüphelidir.
“Berufsinfomat”, yapay zeka kullanımının dikkatli bir maliyet-fayda hesaplaması gerektirdiğini örnekliyor. Mevcut heyecana rağmen beklentiler, maliyetler ve faydalar gerçekçi bir şekilde değerlendirilmelidir. Bir şeyin teknik olarak mümkün olması onun otomatik olarak anlamlı olduğu anlamına gelmez.
Yapay zeka aslında ne kadar akıllı? Üretken yapay zekanın işimiz, boş zamanlarımız ve toplumumuz açısından ne gibi sonuçları var? Haberler'nin “Yapay Zeka Güncellemesi”nde The Decoder ile birlikte size hafta içi her gün en önemli yapay zeka gelişmelerine ilişkin güncellemeleri sunuyoruz. Cuma günleri uzmanlarla yapay zeka devriminin farklı yönlerini inceliyoruz.
Image AI İdeogramı yeni işlevler kazanıyor
Bir yapay zeka görüntü oluşturucu olan Ideogram, sürüm 1.0 için büyük bir güncelleme yayınladı. Metin temsilindeki hata oranı yüzde 15 azalırken, fotogerçekçilik ve görüntü tutarlılığı önemli ölçüde arttı. İnsan değerlendiriciler, hızlı hizalama, tutarlılık ve metin kalitesi açısından yeni görselleri önceki görsellere göre yüzde 30-50 oranında tercih etti.
Yeni özellikler arasında ayrıntılı görüntü açıklamalarını otomatik olarak bilgi istemleri olarak oluşturmak için Tanımla, istenmeyen görüntü öğelerini hariç tutmak için olumsuz istemler ve üç işleme modu yer alır: Hızlı (5 saniye), Varsayılan (12 saniye) ve Kalite (20 saniye). .). İkincisi, hıza veya ayrıntı düzeyine öncelik vermenizi sağlar.
İdeogram, doğru hızlı uygulama ve güvenilir metin gösterimiyle puan kazanmaya devam ediyor. Eylül 2023'teki beta lansmanından bu yana hizmetin 7 milyondan fazla kullanıcısı var ve 600 milyon görsel oluşturuldu. Ücretsiz kayıt olduktan sonra her gün 25 ücretsiz istem sunulur; daha gelişmiş seçenekler abonelik gerektirir.
Yapay zeka tarafından oluşturulan kötü amaçlı kodlarla yapılan saldırılar
TA547 grubu, Rhadamanthys bilgi hırsızı kötü amaçlı yazılımını yaymak için özellikle Alman şirketlerine sahte Metro faturalarıyla saldırıyor. Proofpoint'teki uzmanlar bu kampanyayı analiz etti ve kötü amaçlı kodun bazı bölümlerinin ChatGPT gibi yapay zeka destekli dil modelleri kullanılarak oluşturulduğunu keşfetti.
Proofpoint'in analizine göre saldırganlar güvenilir gönderen adresleri kullanıyor ancak “Fatura No: çok sayıda” gibi uzun süredir devam eden şüpheli konu satırları kullanıyor. Sahte e-postalar, bir kısayol dosyasıyla birlikte şifre korumalı ZIP ekleri içeriyor. Bu, kötü amaçlı yazılımı indiren ve onu sabit sürücüde herhangi bir iz bırakmadan doğrudan bellekte çalıştıran bir Powershell komut dosyasını başlatır. Komut dosyasında alışılmadık derecede kesin yorumlar var ve bu da yapay zeka modelleri tarafından oluşturulduğunu gösteriyor.
TA547, uluslararası düzeyde bir “ilk erişim aracısı” olarak hareket ediyor ve halihazırda çeşitli kötü amaçlı programlar yaymış durumda. Kötü amaçlı yazılım oluşturmak için yapay zekanın kullanılması, siber suçlular arasında giderek yaygınlaşıyor gibi görünüyor. Güvenlik uzmanları bunu endişe verici bir gelişme olarak görüyor.
Saksonya dijital etik için bir danışma kurulu oluşturmak istiyor
Saksonya Adalet Bakanı Katja Meier, dijital etik için bir danışma kurulu kurulduğunu duyurdu. Yedi üyeli uzman komitesinin amacı eyalet hükümetine yapay zeka konularında tavsiyelerde bulunmak ve tavsiyelerde bulunmaktır. Danışma kurulu sonbaharda gelecek yasama dönemi başında çalışmalarına başlayacak.
Amaç, veri tabanı anlaşılır olan ve ayrımcılığı öğrenemeyen veya yeniden üretmeyen güvenilir yapay zeka sistemlerinin geliştirilmesini teşvik etmektir. Meier, yapay zekanın hakim ve savcıların temel görevlerini üstlenemeyeceğini vurguladı.
Devlet Şansölyeliği Başkanı Oliver Schenk, yapay zekanın güçlü endüstrisi ve bilimiyle Saksonya için stratejik açıdan önemli bir role sahip olduğunu düşünüyor. Yapay zeka uygulamalarının kullanımı gelecekte birçok alanda yaygınlaşacak ve bu sayede mükemmel teknolojinin yanı sıra toplumdaki kabulün de güçlendirilmesi gerekiyor. Bitkom'un yaptığı bir araştırma, birçok şirketin yapay zekada büyük bir potansiyel gördüğünü ancak hâlâ tereddütlü olduğunu gösteriyor.
(igr)
Haberin Sonu