SME

Obávajú sa rizika. Experti žiadajú pozastavenie vývoja umelej inteligencie

Vývojári chcú lepšiu reguláciu zákonodarcami.

Ilustračné fotoIlustračné foto (Zdroj: TASR/AP)

WASHINGTON. Stovky akademikov, expertov a podnikateľov zapojených do vývoja umelej inteligencie (AI), vrátane miliardára Elona Muska, v novom vyhlásení žiadajú najmenej polročné pozastavenie vývoja nových modelov s ohľadom na "hlboké riziká pre spoločnosť a ľudstvo".

SkryťVypnúť reklamu
Článok pokračuje pod video reklamou
SkryťVypnúť reklamu
Článok pokračuje pod video reklamou

Navrhujú, aby vývojári túto pauzu využili na spoločnú prácu na bezpečnostných pravidlách a tiež na zväčšenie spolupráce so zákonodarcami na silnej regulácii odvetvia.

Výzva na okamžité prerušenie vývoja sa vzťahuje na "tréning systémov AI silnejších ako GPT-4", čo je nová generácia textového modelu, ktorú tento mesiac predstavila skupina OpenAI.

SkryťVypnúť reklamu

"Toto prerušenie by malo byť verejné a overiteľné... Ak ho nie je možné urobiť rýchlo, mali by zakročiť vlády a ustanoviť moratórium," uvádzajú signatári petície publikovanej neziskovou organizáciou Future of Life Institute.

Načítavam... Klik 257: AI všetko, všade, naraz
Počúvajte v aplikácii SME alebo cez Apple, Google, Spotify a RSS. Iné podcasty SME.

Medzi signatármi je aj spoluzakladateľ Applu

Okrem Muska, ktorý patrí medzi sponzorov OpenAI, sú medzi nimi spoluzakladateľ firmy Apple Steve Wozniak, šéf spoločnosti Stability AI Emad Mostaque, filozof Yuval Noah Harari či profesori zo severoamerických i iných univerzít.

Apel prichádza po mesiacoch nekontrolovateľného vývoja v odbore takzvanej generatívnej umelej inteligencie, čo je označenie pre modely "vycvičené" na obrovskom množstve dát, ktoré vytvárajú originálne výstupy na základe identifikovaných vzorcov.

SkryťVypnúť reklamu
Súvisiaci článok Po internete sa šíria falošné fotky Trumpovho zatknutia. Sociálne siete by mali zakročiť Čítajte 

Môžu pri tom generovať nielen texty, ale aj obrázky či zvukové stopy pripomínajúce hlasy skutočných ľudí.

Vývoj vyvoláva obavy okrem iného zo záplavy dezinformácií a podvodov založených na autenticky vyzerajúcich vizuálnych a zvukových materiáloch.

Altman medzi signatármi nie je

Aj riaditeľ OpenAI Sam Altman v nedávnom rozhovore priznal, že sa "trošku bojí". "Musíme tu byť opatrní," povedal televízii ABC News pri príležitosti uvedenia GPT-4.

Tiež však vyjadril názor, že umelá inteligencia môže byť "najlepšou technológiou, akú doteraz ľudstvo vyvinulo". Altman podľa informácií agentúry Reuters však nebol medzi viac ako tisíc signatármi novej výzvy.

Výzva hneď v úvode varuje pred závažnými rizikami spojenými s umelou inteligenciou, "ako ukazuje výskum a uznali popredné laboratóriá AI".

SkryťVypnúť reklamu
Súvisiaci článok Preteky v umelej inteligencii sa rozbiehajú, Google predstavil chatbota Barda Čítajte 

"Laboratóriá a nezávislí experti by mali využiť toto prerušenie (vývoja), aby spoločne vyvinuli a implementovali sadu spoločných bezpečnostných protokolov pre dizajn a rozvoj pokročilej AI. .. Súbežne musia vývojári AI pracovať so zákonodarcami na dramatickom urýchlení rozvoja robustných systémov regulácie AI," píše sa vo vyhlásení.

SkryťVypnúť reklamu

Najčítanejšie na SME Svet

Komerčné články

  1. Patria medzi svetovú elitu. Slováci zariskovali a predbehli dobu
  2. Bývanie vytesané do kameňa? V Kapadócii tak žijú po stáročia
  3. Za hranicami bytu: Ako si vybudovať dobré susedské vzťahy?
  4. Všetky divy sveta v privátnom lietadle dnes so zľavou 12 225 eur
  5. Prečo vymeniť plastové vchodové dvere za hliníkové?
  6. Wellness v prírode: máme tip, kde si na jar najlepšie oddýchnete
  7. Deväť dobrých: Jarný literárny výber v denníkoch SME a Korzár
  8. Slováci minuli za 4 dni na dovolenky 6,4 milióna eur
  1. Bývanie vytesané do kameňa? V Kapadócii tak žijú po stáročia
  2. E-recept, evolúcia v zdravotnej starostlivosti
  3. Leťte priamo z KOŠÍC a dovolenkujte na najkrajších plážach
  4. Za hranicami bytu: Ako si vybudovať dobré susedské vzťahy?
  5. Výlet 2 v 1: Jednou nohou na Slovensku, druhou v Rakúsku
  6. Ahoj, TABI! Kto je záhadný digitvor?
  7. Všetky divy sveta v privátnom lietadle dnes so zľavou 12 225 eur
  8. Prečo vymeniť plastové vchodové dvere za hliníkové?
  1. Deväť dobrých: Jarný literárny výber v denníkoch SME a Korzár 18 024
  2. Do utorka za vás uhradia polovicu exotickej dovolenky 16 547
  3. Fellner otvorene: Manželka mi vyčítala, že zo mňa nič nemá 16 457
  4. Slováci minuli za 4 dni na dovolenky 6,4 milióna eur 10 983
  5. Patria medzi svetovú elitu. Slováci zariskovali a predbehli dobu 10 540
  6. Prečo vymeniť plastové vchodové dvere za hliníkové? 10 467
  7. Všetky divy sveta v privátnom lietadle dnes so zľavou 12 225 eur 7 972
  8. Ako Japonci potopili ruské nádeje na Ďalekom východe 5 436
SkryťVypnúť reklamu
SkryťVypnúť reklamu
SkryťVypnúť reklamu
SkryťVypnúť reklamu

Neprehliadnite tiež

Český premiér Petr Fiala.

Vojna na Ukrajine pokračuje.


a 4 ďalší

Toto je ten typ prezidenta, akého chcem, povedal o Bidenovi Obama.


TASR
Vlajka OSN.

Kráľovská rodina v Saudskej Arábii vládne v duchu ultrakonzervatívnej interpretácie islamu.


TASR
Ilustračné foto.

Príčina nehody je stále nejasná.


TASR

Sportnet

Dalibor Dvorský v drese Sudbury.

Slovenský útočník strelil svoj premiérový gól v play-off OHL v kariére.


Nemeckí futbalisti v nových dresoch ešte od Adidasu.

Nemecká futbalová reprezentácia urobila odvážny krok pred domácim EURO 2024.


Luboš Brabec
Carlos Alcaraz.

S turnajom sa lúči aj maďarský tenista Fábián Marozsán.


TASR
Miroslav Benko (vpravo) spolu s Viktorom Pečovským.

Miroslav Benko oslavuje 50 rokov.


SkryťZatvoriť reklamu