Yapay Zeka Ararken Dikkat

 AI Ararken RedLine Yüklemeyin

OpenAI ChatGPT ve Midjourney gibi generatif AI hizmetleri için kötü niyetli Google Arama reklamları, RedLine Stealer kötü amaçlı yazılımını dağıtmak amacıyla kullanılıyor.

eSentire analizine göre, "Her iki AI hizmeti de son derece popüler olmasına rağmen bağımsız uygulamalara sahip değillerdir (yani kullanıcılar ChatGPT'ye web arayüzü üzerinden erişirken Midjourney Discord'u kullanır)," dedi.

"Tehdit aktörleri, sahte uygulamaları tanıtan sahte web sayfalarını tanıtan AI uygulama arayıcılardan yararlanmışlardır."

BATLOADER, kullanıcıların arama motorlarında belirli anahtar kelimeler aradıklarında sahte reklamların görüntülendiği ve tıkladıklarında kötü amaçlı yazılım barındıran yanıltıcı indirme sayfalarına yönlendirildikleri drive-by indirmeleri aracılığıyla yayılan bir yükleyici kötü amaçlı yazılımdır.

 

eSentire'a göre, kurulum dosyası, ChatGPT.exe veya midjourney.exe adlı bir yürütülebilir dosya ve Chat.ps1 veya Chat-Ready.ps1 adlı bir PowerShell komut dosyası içerir ve uzaktaki bir sunucudan RedLine Stealer'ı indirir ve yükler.

 

Kurulum tamamlandığında, ikili dosya Microsoft Edge WebView2'yi kullanarak chat.openai[.]com veya www.midjourney[.]com - yasal ChatGPT ve Midjourney URL'leri - pop-up penceresinde yükleyerek herhangi bir şüphe uyandırmadan açar.

Düşmanın, kötücül reklamlar sunmak ve sonuçta RedLine Stealer kötü amaçlı yazılımını bırakmak için ChatGPT ve Midjourney temalı tuzağı kullandığı da geçen hafta Trend Micro tarafından vurgulandı. Yapay Zeka Araçları BATLOADER'ın arkasındaki operatörlerin kötü amaçlı yazılım dağıtmak için yapay zeka çılgınlığından yararlandığı ilk kez değil. Mart 2023'te, eSentire benzer bir dizi saldırıyı ayrıntılı bir şekilde açıkladı, bu saldırılar Vidar Stealer ve Ursnif'i dağıtmak için ChatGPT tuzağından yararlandı.

Cybersecurity şirketi ayrıca Google Arama reklamlarının kötüye kullanımının 2023 başlarındaki zirveden düştüğünü belirtti, bu da teknoloji devinin bu tür kötüye kullanımları sınırlamak için aktif önlemler aldığını gösteriyor.

Bu gelişme, tehdit aktörlerinin kötü amaçlı yazılım ve diğer sahte uygulamaları dağıtmak için bu yapay zeka araçlarının artan kullanımından yararlanmaya çalıştığı daha geniş bir dolandırıcılık ve sahtekarlık kampanyası dalgasıyla uyumlu.

Güvenlik sağlayıcısı Sophos, ilgili bir araştırmada, Google Play ve Apple App Store'da ChatGPT ile ilişkili bir dizi fleeceware uygulamasını - toplu olarak FleeceGPT olarak adlandırılan - kullanıcıları istenmeyen aboneliklere zorladı.

Sophos araştırmacıları Jagadeesh Chandraiah ve Sean Gallagher, "Fleeceware uygulamaları, Apple ve Google hizmet şartlarının sınırlarında kalmak üzere tasarlandığı ve özel bilgilere erişmediği veya platform güvenliğini aşmayı denemediği için nadiren gözden geçirmede reddedilir ve uygulama mağazalarına alınır," dedi.

Son haftalarda, Meta ve Palo Alto Networks Unit 42, kullanıcıların kredi kartı bilgilerini toplamak, kredi kartı dolandırıcılığı yapmak ve kurbanların Facebook hesap bilgilerini çalan taklit ChatGPT hizmetine benzeyen sahtekarlık faaliyetlerinde artış olduğu konusunda uyarıda bulundu.

 

Looking for AI

 

While you are Looking for AI Watch Out for RedLine Malware

Malicious Google Search ads for generative AI services like OpenAI ChatGPT and Midjourney are being used to direct users to sketchy websites as part of a BATLOADER campaign designed to deliver RedLine Stealer malware.

"Both AI services are extremely popular but lack first-party standalone apps (i.e., users interface with ChatGPT via their web interface while Midjourney uses Discord)," eSentire said in an analysis.

"This vacuum has been exploited by threat actors looking to drive AI app-seekers to imposter web pages promoting fake apps."

BATLOADER is a loader malware that's propagated via drive-by downloads where users searching for certain keywords on search engines are displayed bogus ads that, when clicked, redirect them to rogue landing pages hosting malware.

The installer file, per eSentire, is rigged with an executable file (ChatGPT.exe or midjourney.exe) and a PowerShell script (Chat.ps1 or Chat-Ready.ps1) that downloads and loads RedLine Stealer from a remote server.

Once the installation is complete, the binary makes use of Microsoft Edge WebView2 to load chat.openai[.]com or www.midjourney[.]com – the legitimate ChatGPT and Midjourney URLs – in a pop-up window so as to not raise any red flags.

The adversary's use of ChatGPT and Midjourney-themed lures to serve malicious ads and ultimately drop the RedLine Stealer malware was also highlighted last week by Trend Micro.

This is not the first time the operators behind BATLOADER have capitalized on the AI craze to distribute malware. In March 2023, eSentire detailed a similar set of attacks that leveraged ChatGPT lures to deploy Vidar Stealer and Ursnif.

The cybersecurity company further pointed out the abuse of Google Search ads has fallen off from their early 2023 peak, suggesting that the tech giant is taking active steps to curtail its exploitation.

The development aligns with a broader wave of phishing and scam campaigns, wherein threat actors are attempting to cash in on the surging use of these AI tools to distribute malware and other bogus apps.

Security vendor Sophos, in a related research, outlined a set of ChatGPT-related fleeceware apps in the Google Play and Apple App Store — collectively dubbed FleeceGPT – that coerce users into signing up for unwanted subscriptions.

"Because fleeceware applications are designed to stay on the edge of Apple and Google terms of service and do not access private information or attempt to circumvent platform security, they are rarely rejected during review and are allowed into the app stores," Sophos researchers Jagadeesh Chandraiah and Sean Gallagher said.

In recent weeks, both Meta and Palo Alto Networks Unit 42 have warned of increasing fraudulent activity mimicking the ChatGPT service to harvest users' credit card details, perpetrate credit card fraud, and copycat chatbot browser extensions that steal victims' Facebook account details.

Between November 2022 through early April 2023, Unit 42 said it detected a 910% increase in monthly registrations for domains related to ChatGPT.

The findings come weeks after Securonix uncovered a phishing campaign dubbed OCX#HARVESTER that targeted the cryptocurrency sector between December 2022 and March 2023 with More_eggs (aka Golden Chickens), a JavaScript downloader that's used to serve additional payloads.

 OpenAI ChatGPT vs. Google Bard 

 

  v.s.  

In the comparison made by asking the same physics questions to OpenAI ChatGPT and Google Bard, it was observed that Google Bard is very fast (~3 sec) but its results are especially incorrect for numerically solved questions. Particularly, OpenAI's ChatGPT is quite slow (~140 sec), especially in numerical and even vector solutions, but it can mostly produce correct results, although in some questions, it was observed that it gives incorrect results, especially in the final step calculations. It has the ability to produce vector solutions for vector questions and can provide the result in vector format, using unit vectors if desired. However, it should be noted that the proper and mathematical definition of the problem (exponential expressions, logarithmic expressions, dot and vector products, etc.) is crucial for producing the correct result, which has been observed in different problem-solving scenarios.

However, it has not been possible to make a comparison in terms of text and translation topics because Google Bard states, "As an LLM, I have been trained to understand and respond only to a subset of languages, and I cannot assist with this. Please refer to the Bard Help Center for an up-to-date list of supported languages."

Google wants user feedback about Bard

“Bard is experimental, and some of the responses may be inaccurate,” Google pointed out. The team at Google even poked fun at some of Bard’s suggestions in its own announcement post.

Google also emphasized privacy. The version of Bard that was available through the wait list couldn’t answer questions about what happened earlier in a conversation between itself and a human, for example. According to the Bard FAQ, Google purposely limited Bard’s “ability to hold context.” Google is asking for users to send feedback on Bard’s responses.

In an internal email viewed by CNBC, Google and Alphabet CEO Sundar Pichai told employees, “Things will go wrong. But the user feedback is critical to improving the product and the underlying technology.”

Google is competing with Microsoft and OpenAI

Google Bard’s big name competitor is OpenAI’s ChatGPT. So far, ChatGPT has the advantage of already being able to write basic code, expanding its enterprise applications significantly.

Microsoft’s Bing search uses OpenAI’s GPT-4, the large multimodal model on which ChatGPT is built. ChatGPT is currently available with a subscription to OpenAI’s ChatGPT Plus.

Startup Anthropic, which has gained funding from Google, has its own AI assistant, Claude. Anthropic is playing in the search engine space with a partnership with DuckDuckGo while using Google as a cloud provider.

What tech leaders should consider before using AI

Chat assistance made with large language model AI have faced criticism for returning answers that are easily parsed but factually incorrect. There are also some concerns about the job training AI requires outweighing the productivity benefits, or AI content replacing human-made work and, therefore, limiting numbers of available jobs. Business leaders should take into account whether generative AI is appropriate for their workplace culture as well as whether it improves productivity.

 

 

OpenAI ChatGPT ile Google Bard Karşılaştırması

  v.s.  

Aynı fizik sorularını sorarak yapılan OpenAI ChatGPT ile Google Bard karşılaştırmasında  Google Bard'ın çok hızlı (3 sn) ve ürettiği sonuçların özelikle sayısal çözümlü sorular için yanlış olduğunu görüldü. Özellikle OpenAI'ın ChatGPT si özellikle sayısal çözüm ve hatta vectörel çözümlerde bile oldukça yavaş (~140 sn) fakat sonuçta çoğunlukla doğru sonuç varebilmesine rağmen bazı sorularda ise özellikle son adım işlemlerin sonucu yanlı verdiği gözlendi. Vektör sorularına vektör olarak çözüme ulaşmakta ve sonucu da gene vektör formunda ve istenirse de birim vectörleri kullanarak ve vektör formatında da yazarak verebilmektedir. Ancak unutulmaması gereken sorunun tam anlamıyla ve matematiksel olarak ta tam olarak tanımlanması (üst ifadeleri, logaritmik ifadeler, dot ve cevtör çarpımlar vb) sonucun doğru olarak üretilmesinde çok önemli olduğu değişik problem çözümlerinde gözlenmiştir.

Ayanı metin ile tercüme konularında  ise karşılaştırmak ise mümkün olmamıştır, çünkü GoogleBard "Bir LLM olarak, şu anda dillerin yalnızca bir alt kümesini anlamak ve bunlara yanıt vermek üzere eğitildim ve bu konuda yardım sağlayamıyorum. Desteklenen dillerin güncel bir listesi için lütfen Bard Yardım Merkezi'ne bakın." uyarısı vererek tercüme yapamamakta.

Google, Bard hakkında kullanıcı geri bildirimi istiyor

"Google, Bard'ın deneysel olduğunu ve bazı yanıtların yanlış olabileceğini belirtti. Google ekibi, hatta kendi duyuru gönderisinde Bard'ın bazı önerileriyle alay etti.

Google ayrıca gizliliğe önem veriyor. Bekleme listesi aracılığıyla erişilebilen Bard sürümü, örneğin kendisi ve bir insan arasındaki bir konuşmanın daha önce ne olduğuyla ilgili sorulara cevap veremiyordu. Bard SSS'ye göre, Google bilinçli olarak Bard'ın "bağlamı sürdürme yeteneğini" sınırlamıştır. Google, kullanıcılardan Bard'ın yanıtları hakkında geri bildirim göndermelerini istiyor.

CNBC tarafından görülen bir iç e-postada, Google ve Alphabet CEO'su Sundar Pichai, çalışanlara, "İşler yanlış gidecek. Ancak kullanıcı geri bildirimi, ürünü ve temel teknolojiyi geliştirmek için kritiktir." dedi. Google, Microsoft ve OpenAI ile rekabet ediyor

Google Bard'ın büyük rakibi, OpenAI'nin ChatGPT'sidir. Şu ana kadar, ChatGPT'nin temel programlama yazabilme avantajı vardır ve iş uygulamalarını önemli ölçüde genişletir.

Microsoft'un Bing arama motoru, ChatGPT'nin temelini oluşturan büyük çoklu model olan OpenAI'nin GPT-4'ünü kullanıyor. ChatGPT şu anda OpenAI'nin ChatGPT Plus aboneliği ile kullanılabilir.

Google'dan fon alan bir girişim olan Anthropic'ın kendi yapay zeka asistanı Claude'u bulunmaktadır. Anthropic, Google'ı bir bulut sağlayıcı olarak kullanırken, DuckDuckGo ile bir arama motoru alanında ortaklık yapmaktadır. Teknoloji 

liderlerinin AI kullanmadan önce düşünmesi gerekenler

Büyük dil modeli yapay zeka ile oluşturulan sohbet asistanları, kolayca ayrıştırılabilen ancak gerçekleri yanlış döndüren yanıtlarla eleştirilmiştir. Ayrıca, AI'nın gerektirdiği iş eğitiminin üretkenlik faydalarını aşma endişeleri ve AI içeriğinin insan yapımı çalışmayı değiştirmesi ve böylece mevcut iş sayısını sınırlaması konusunda bazı endişeler vardır. İş liderleri, generatif AI'nın iş yeri kültürü için uygun olup olmadığını ve üretkenliği artırıp artırmadığını dikkate almalıdır."