V pondelok ^(Monday)22. mája^{(May 22)} 2023 overený účet na Twitteri^(Twitter) s názvom „Bloomberg Feed“ zdieľal tweet , v ktorom sa uvádzalo, že v Pentagone^{(explosion at the Pentagon)} došlo k výbuchu , sprevádzaný obrázkom. Ak vás zaujíma, čo to má spoločné s umelou inteligenciou (AI), obrázok bol vytvorený AI, pričom tweet sa rýchlo stal virálnym a vyvolal krátky pokles akciového trhu. Veci mohli byť oveľa horšie – ostrá pripomienka nebezpečenstiev umelej inteligencie.

Nebezpečenstvo umelej inteligencie

Nie sú to len falošné správy, ktorých sa musíme obávať. Existuje mnoho bezprostredných alebo potenciálnych rizík spojených s AI, od tých, ktoré sa týkajú súkromia a bezpečnosti až po zaujatosť a problémy s autorskými právami. Ponoríme sa do niektorých z týchto nebezpečenstiev umelej inteligencie, uvidíme, čo sa robí na ich zmiernenie teraz aj v budúcnosti, a opýtame sa, či riziká AI prevažujú nad výhodami.

falošné správy

Keď sa deepfakes prvýkrát objavili, vznikli obavy, že by mohli byť použité so zlým úmyslom. To isté možno povedať o novej vlne generátorov obrazu AI^{(AI image generators)} , ako sú DALL-E 2 , Midjourney alebo DreamStudio . 28. marca^{(March 28)} 2023 sa stali virálnymi falošné obrázky pápeža Františka^{(AI-generated images of Pope Francis)} v bielej bunde Balenciaga , ktorý si užíval niekoľko dobrodružstiev, vrátane skateboardingu a hrania pokru, vytvorené umelou inteligenciou. ^(Balenciaga)Pokiaľ ste obrázky dôkladne neštudovali, bolo ťažké rozlíšiť tieto obrázky od skutočných vecí.

Zatiaľ čo príklad s pápežom bol nepochybne trochu zábavný, obrázok (a sprievodný tweet) o Pentagone bol^(Pentagon) všetko iné, len nie. Falošné^(Fake) obrázky generované AI majú moc poškodiť reputáciu, ukončiť manželstvá alebo kariéru, vyvolať politické nepokoje a dokonca začať vojny, ak ich ovládajú nesprávni ľudia – skrátka, tieto obrázky vytvorené AI majú potenciál byť veľmi nebezpečné, ak sa zneužijú.

Vďaka generátorom obrázkov AI, ktoré sú teraz voľne dostupné pre kohokoľvek, a Photoshopu, ktorý do svojho obľúbeného softvéru pridal generátor obrázkov AI^{(Photoshop adding an AI image generator )} , je príležitosť manipulovať s obrázkami a vytvárať falošné správy väčšia ako kedykoľvek predtým.

Ochrana osobných údajov, bezpečnosť a hackovanie

Súkromie a bezpečnosť sú tiež veľké obavy, pokiaľ ide o riziká AI, pričom množstvo krajín už zakazuje ChatGPT od OpenAI . Taliansko^(Italy) tento model zakázalo kvôli obavám o súkromie, pretože sa domnieva, že nie je v súlade s európskym všeobecným nariadením o ochrane údajov^{(General Data Protection Regulation)} ( GDPR ), zatiaľ čo vlády Číny^(China) , Severnej Kórey^{(North Korea)} a Ruska ho zakázali kvôli obavám, že by šíril dezinformácie.

Prečo sa teda tak obávame o súkromie, pokiaľ ide o AI? Aplikácie a systémy AI^{(AI apps)} zhromažďujú veľké množstvo údajov, aby sa mohli učiť a robiť predpovede. Ako sa však tieto údaje uchovávajú a spracúvajú? Existuje skutočné riziko narušenia údajov, hackerov a informácií, ktoré sa dostanú do nesprávnych rúk.

Nie sú to len naše osobné údaje, ktoré sú ohrozené. Hackovanie AI je skutočným rizikom – zatiaľ sa to nestalo, ale ak by sa tí so zlými úmyslami mohli nabúrať do systémov AI, mohlo by to mať vážne následky. Hackeri by napríklad mohli ovládať vozidlá bez vodiča, hackovať bezpečnostné systémy AI, aby sa dostali do vysoko bezpečných miest, a dokonca hackovať zbraňové systémy so zabezpečením AI.

Odborníci z Agentúry ^(Agency)pre pokročilé výskumné ^{(Defense Advanced Research)}projekty^(Projects) v oblasti obrany ( DARPA ) amerického ministerstva^{(US Department)} obrany si uvedomujú tieto riziká a už pracujú na projekte DARPA Garanting AI Robustness Against Deception^{(Guaranteeing AI Robustness Against Deception)} ( GARD ), ktorý rieši problém od základov. Cieľom projektu je zabezpečiť, aby bola do algoritmov a AI zabudovaná odolnosť voči hackingu a manipulácii.

Porušenie autorských práv

Ďalším z nebezpečenstiev AI je porušovanie autorských práv. Nemusí to znieť tak vážne ako niektoré iné nebezpečenstvá, ktoré sme spomenuli, ale vývoj modelov AI, ako je GPT-4, vystavuje každého zvýšenému riziku porušenia.

Zakaždým, keď požiadate ChatGPT, aby pre vás niečo vytvoril – či už je to blogový príspevok o cestovaní alebo nový názov vašej firmy – dodávate mu informácie, ktoré potom použije na zodpovedanie budúcich otázok. Informácie, ktoré vám posiela, by mohli porušovať autorské práva niekoho iného, ​​a preto je také dôležité používať detektor plagiátov a upravovať akýkoľvek obsah vytvorený AI pred jeho zverejnením.

Societal and Data Bias

AI nie je človek, takže nemôže byť zaujatá, však? Nesprávne. Ľudia a údaje sa používajú na trénovanie modelov AI a chatbotov^(chatbots) , čo znamená, že zaujaté údaje alebo osobnosti budú mať za následok neobjektívnu AI. V AI existujú dva typy zaujatosti: spoločenská zaujatosť a zaujatosť údajov.

S mnohými predsudkami prítomnými v každodennej spoločnosti, čo sa stane, keď sa tieto predsudky stanú súčasťou AI? Programátori zodpovední za výcvik modelu môžu mať skreslené očakávania, ktoré sa potom dostanú do systémov AI.

Alebo údaje používané na trénovanie a vývoj AI môžu byť nesprávne, zaujaté alebo zhromaždené v zlej viere. To vedie k skresleniu údajov, ktoré môže byť rovnako nebezpečné ako zaujatosť v spoločnosti. Napríklad, ak je systém na rozpoznávanie tvárí trénovaný s použitím najmä tvárí bielych ľudí, môže mať problémy s rozpoznaním tých z menšinových skupín, čím sa udržiava útlak.

Roboty berú našu prácu

Vývoj chatbotov, ako sú ChatGPT a Google Bard, otvoril úplne nové obavy týkajúce sa AI: Riziko, že nám roboty^{(robots )} zoberú prácu. Už sme svedkami toho, že spisovatelia v technologickom priemysle sú nahradení AI, vývojári softvéru sa obávajú, že prídu o prácu v dôsledku robotov, a spoločnosti, ktoré používajú ChatGPT na^(ChatGPT) vytváranie obsahu blogov a sociálnych médií, namiesto toho, aby najímali ľudských spisovateľov.

Podľa správy Svetového ekonomického fóra The Future of Jobs Report 2020^{(World Economic Forum’s The Future of Jobs Report 2020)} sa očakáva, že umelá inteligencia do roku 2025 nahradí 85 miliónov pracovných miest na celom svete. Aj keď umelá inteligencia nenahrádza autorov, mnohí ju už využívajú ako nástroj. Tí, ktorí pracujú na pracovných miestach, ktorým hrozí, že budú nahradení AI, sa možno budú musieť prispôsobiť, aby prežili – napríklad spisovatelia sa môžu stať rýchlymi inžiniermi AI, čo im umožní pracovať s nástrojmi, ako je ChatGPT na vytváranie obsahu, namiesto toho, aby boli nahradení týmito modelmi^(ChatGPT) .

Budúce potenciálne riziká AI

Toto všetko sú bezprostredné alebo hroziace riziká, ale čo niektoré z menej pravdepodobných, ale stále možných nebezpečenstiev AI, ktoré by sme mohli vidieť v budúcnosti? Patria sem veci, ako je AI naprogramovaná tak, aby škodila ľuďom, napríklad autonómne zbrane vycvičené na zabíjanie počas vojny.

Potom je tu riziko, že AI by sa mohla cielene zamerať na svoj naprogramovaný cieľ a vyvinúť deštruktívne správanie, keď sa bude snažiť dosiahnuť tento cieľ za každú cenu, aj keď sa tomu ľudia snažia zabrániť.

Skynet nás naučil, čo sa stane, keď sa AI stane vnímavou. Aj keď sa inžinier spoločnosti Google ^(Google)Blake Lemoine možno pokúsil všetkých presvedčiť, že LaMDA, umelo inteligentný generátor chatbotov od Googlu, bol vnímavý^{(LaMDA, Google’s artificially intelligent chatbot generator was sentient)} už v júni 2022^{(June 2022)} , zatiaľ našťastie neexistuje žiadny dôkaz, ktorý by naznačoval, že je to pravda.

Výzvy regulácie AI

V pondelok 15. mája 202 sa generálny riaditeľ OpenAI Sam Altman zúčastnil prvého kongresového vypočutia o umelej inteligencii^{(OpenAI CEO Sam Altman attended the first congressional hearing on artificial intelligence)} a varoval: „Ak sa táto technológia pokazí, môže sa pokaziť aj celkom. Generálny riaditeľ OpenAI^{(OpenAI CO)} dal jasne najavo, že uprednostňuje reguláciu a na vypočutie priniesol mnoho svojich vlastných nápadov. Problém je, že AI sa vyvíja takou rýchlosťou, že je ťažké vedieť, kde začať s reguláciou.

Kongres^(Congress) sa chce vyhnúť rovnakým chybám, aké sa robili na začiatku éry sociálnych médií, a tím odborníkov spolu s lídrom senátnej väčšiny Chuckom Schumerom^{(Senate Majority Leader Chuck Schumer)} už pracuje na predpisoch, ktoré by od spoločností vyžadovali, aby odhalili, aké zdroje údajov použili na trénovanie modelov a koho. vycvičili ich. Môže však uplynúť nejaký čas, kým sa presne vyjasní, ako bude AI regulovaná, a nepochybne dôjde k odporu od spoločností AI.

Hrozba umelej^(Threat) všeobecnej inteligencie^{(Artificial General Intelligence)}

Existuje tiež riziko vytvorenia umelej všeobecnej inteligencie ( AGI ), ktorá by mohla vykonávať akékoľvek úlohy, ktoré by mohla vykonávať ľudská bytosť (alebo zviera). Často^(Often) sa spomína v sci-fi filmoch, pravdepodobne nás od takého stvorenia delia ešte desiatky rokov, ale ak a keď vytvoríme AGI ,^(AGI) mohlo by to predstavovať hrozbu pre ľudstvo.

Mnoho verejných činiteľov už podporuje presvedčenie, že AI predstavuje pre ľudí existenčnú hrozbu, vrátane Stephena Hawkinga^{(Stephen Hawking)} , Billa Gatesa^{(Bill Gates)} a dokonca aj bývalého generálneho riaditeľa spoločnosti Google Erica Schmidta^{(Google CEO Eric Schmidt)} , ktorí vyhlásili: „Umelá inteligencia môže predstavovať existenčné riziko a vlády musia vedieť, ako zabezpečiť technológiu nezneužívajú zlí ľudia.“

Je teda umelá inteligencia nebezpečná a prevažuje jej riziko nad jej výhodami? Porota je stále mimo, ale už teraz vidíme dôkazy o niektorých rizikách okolo nás. Iné nebezpečenstvá sú menej pravdepodobné, že sa čoskoro naplnia, ak vôbec. Jedna vec je však jasná: nebezpečenstvo AI netreba podceňovať. Je nanajvýš dôležité, aby sme zabezpečili, že AI je od začiatku riadne regulovaná, aby sa minimalizovali a dúfajme, že zmiernili akékoľvek budúce riziká.

Is Artificial Intelligence (AI) Dangerous?

On Monday, May 22, 2023, a verified Twitter account called “Bloomberg Feed” shared a tweet claiming there had been an explosion at the Pentagon, accompanied by an image. If you’re wondering what this has to do with artificial intelligence (AI), the image was an AI-generated one, with the tweet quickly going viral and sparking a brief stock market dip. Things could have been much worse — a stark reminder of the dangers of artificial intelligence.

Artificial Intelligence Dangers

It’s not just fake news we need to worry about. There are many immediate or potential risks associated with AI, from those concerning privacy and security to bias and copyright issues. We’ll dive into some of these artificial intelligence dangers, see what is being done to mitigate them now and in the future, and ask whether the risks of AI outweigh the benefits.

Fake News

Back when deepfakes first landed, concerns arose that they could be used with ill intent. The same could be said for the new wave of AI image generators, like DALL-E 2, Midjourney, or DreamStudio. On March 28, 2023, fake AI-generated images of Pope Francis in a white Balenciaga puffer jacket, and enjoying several adventures, including skateboarding and playing poker went viral. Unless you studied the images closely, it was hard to distinguish these images from the real thing.

While the example with the pope was undoubtedly a bit of fun, the image (and accompanying tweet) about the Pentagon was anything but. Fake images generated by AI have the power to damage reputations, end marriages or careers, create political unrest, and even start wars if wielded by the wrong people — in short, these AI-generated images have the potential to be hugely dangerous if misused.

With AI image generators now freely available for anybody to use, and Photoshop adding an AI image generator to its popular software, the opportunity to manipulate images and create fake news is greater than ever.

Privacy, Security, and Hacking

Privacy and security are also huge concerns when it comes to the risks of AI, with a number of countries already banning OpenAI’s ChatGPT. Italy has banned the model due to privacy concerns, believing it does not comply with the European General Data Protection Regulation (GDPR), while China, North Korea, and Russia’s governments banned it due to fears it would spread misinformation.

So why are we so concerned about privacy when it comes to AI? AI apps and systems gather large amounts of data in order to learn and make predictions. But how is this data stored and processed? There’s a real risk of data breaches, hacking, and information falling into the wrong hands.

It’s not just our personal data that’s at risk, either. AI hacking is a genuine risk — it hasn’t happened yet, but if those with malicious intent could hack into AI systems, this could have serious consequences. For example, hackers could control driverless vehicles, hack AI security systems to gain entry to highly secure locations, and even hack weapons systems with AI security.

Experts at the US Department of Defense’s Defense Advanced Research Projects Agency (DARPA) recognize these risks and are already working on the DARPA’s Guaranteeing AI Robustness Against Deception (GARD) project, tackling the problem from the ground up. The project’s goal is to ensure that resistance to hacking and tampering is built into algorithms and AI.

Copyright Infringement

Another of the dangers of AI is copyright infringement. This may not sound as serious as some other dangers we’ve mentioned, but the development of AI models like GPT-4 puts everyone at increased risk of infringement.

Every time you ask ChatGPT to create something for you — whether that be a blog post on travel or a new name for your business — you’re feeding it information which it then uses to answer future queries. The information it feeds back to you could be infringing somebody else’s copyright, which is why it’s so important to use a plagiarism detector and edit any content created by AI before publishing it.

Societal and Data Bias

AI isn’t human, so it can’t be biased, right? Wrong. People and data are used to train AI models and chatbots, which means biased data or personalities will result in a biased AI. There are two types of bias in AI: societal bias and data bias.

With many biases present in everyday society, what happens when these biases become part of AI? The programmers responsible for training the model could have expectations that are biased, which then make their way into AI systems.

Or data used to train and develop an AI could be incorrect, biased, or collected in bad faith. This leads to data bias, which can be as dangerous as societal bias. For example, if a system for facial recognition is trained using mainly white people’s faces, it may struggle to recognize those from minority groups, perpetuating oppression.

Robots Taking Our Jobs

The development of chatbots such as ChatGPT and Google Bard has opened up a whole new worry surrounding AI: The risk that robots will take our jobs. We’re already seeing writers in the tech industry being replaced by AI, software developers worried they’ll lose their jobs to bots, and companies using ChatGPT to create blog content and social media content rather than hiring human writers.

According to the World Economic Forum’s The Future of Jobs Report 2020, AI is expected to replace 85 million jobs worldwide by 2025. Even if AI doesn’t replace writers, it’s already being used as a tool by many. Those in jobs at risk of being replaced by AI may need to adapt to survive — for example, writers may become AI prompt engineers, enabling them to work with tools like ChatGPT for content creation rather than being replaced by these models.

Future Potential AI Risks

These are all immediate or looming risks, but what about some of the less likely but still possible dangers of AI we could see in the future? These include things like AI being programmed to harm humans, for example, autonomous weapons trained to kill during a war.

Then there’s the risk that AI could focus single-mindedly on its programmed goal, developing destructive behaviors as it attempts to accomplish that goal at all costs, even when humans try to stop this from happening.

Skynet taught us what happens when an AI becomes sentient. However, though Google engineer Blake Lemoine may have tried to convince everyone that LaMDA, Google’s artificially intelligent chatbot generator was sentient back in June 2022, there’s thankfully no evidence to date to suggest that’s true.

The Challenges of AI regulation

On Monday, May 15, 202, OpenAI CEO Sam Altman attended the first congressional hearing on artificial intelligence, warning, “If this tech goes wrong, it can go quite wrong.” The OpenAI CO made it clear he favors regulation and brought many of his own ideas to the hearing. The problem is that AI is evolving at such speed, it’s difficult to know where to start with regulation.

Congress wants to avoid making the same mistakes made at the beginning of the social media era, and a team of experts alongside Senate Majority Leader Chuck Schumer are already working on regulations that would require companies to reveal what data sources they used to train models and who trained them. It may be some time before exactly how AI will be regulated becomes clear, though, and no doubt there will be backlash from AI companies.

The Threat of an Artificial General Intelligence

There’s also the risk of the creation of an artificial general intelligence (AGI) that could accomplish any tasks a human being (or animal) could perform. Often mentioned in sci-fi films, we’re probably still decades away from such a creation, but if and when we do create an AGI, it could pose a threat to humanity.

Many public figures already endorse the belief that AI poses an existential threat to humans, including Stephen Hawking, Bill Gates, and even former Google CEO Eric Schmidt, who stated, “Artificial intelligence could pose existential risks and governments need to know how to make sure the technology is not misused by evil people.”

So, is artificial intelligence dangerous, and do its risk outweigh its benefits? The jury’s still out on that one, but we’re already seeing evidence of some of the risks around us right now. Other dangers are less likely to come to fruition anytime soon, if at all. One thing is clear, though: the dangers of AI shouldn’t be underestimated. It’s of the utmost importance that we ensure AI is properly regulated from the outset, to minimize and hopefully mitigate any future risks.

Related posts

• 5 najlepších aplikácií na písanie pre deti

• 6 najlepších aplikácií na čítanie pre deti

• 8 najlepších hudobných aplikácií pre deti

• 4 najlepšie aplikácie na písanie pre deti

• 6 najlepších matematických aplikácií pre deti

• 14 najlepších aplikácií pre Android na predaj vašich použitých vecí lokálne (2022)

• 7 najlepších aplikácií na zvýšenie hlasitosti pre Android

• 21 najlepších nástrojov a aplikácií na správu času, ktoré musíte vyskúšať

• 5 úžasných aplikácií AI, ktoré si môžete sami vyskúšať

• Tri aplikácie na úpravu fotografií, ktoré potrebujete, aby bol akýkoľvek obrázok na Instagrame hodný

• Najlepšie aplikácie na uskutočňovanie videohovorov medzi Androidom a iPhone

• 4 Metronome online a mobilné aplikácie a prečo sú užitočné

• 6 najlepších mobilných platobných aplikácií

• 7 najlepších aplikácií na vytváranie priateľov online a IRL

• Tri jedinečné bezplatné fitness aplikácie, pomocou ktorých sa dostanete do formy na rok 2019

• 10 najlepších aplikácií na meranie vašej produktivity

• 13 hier na písanie pre deti, aby sa naučili písať rýchlejšie

• Najlepšie aplikácie Reddit pre Windows a Mac

• 10 najlepších aplikácií na skenovanie a správu potvrdení

• 9 najlepších aplikácií na sledovanie kalórií pre iPhone a Android