BRUSEL, BRATISLAVA. V roku 1986 začal Geoffrey Hinton pracovať s algoritmom, ktorý sa pokúšal o akési myslenie, ale nedosahoval výsledky, v aké s kolegami dúfali. „Vtedy sme celkom nechápali, že v skutočnosti potrebujeme len viac dát a väčšie počítače,“ spomína Hinton v relácii CNN Global Public Square.
Umelej inteligencii sa venoval aj ďalšie desaťročia, naposledy v Googli. Bol pri kľúčových prielomoch, ktoré viedli k súčasným nástrojom ako Bard alebo ChatGPT. V ostatných mesiacoch sa však čoraz viac začal obávať toho, čo môže umelá inteligencia spôsobiť.
Z Googlu nedávno odišiel. Tvrdí, že preto, aby mohol o nástrahách umelej inteligencie slobodne hovoriť. „Celý čas sme sa snažili, aby umelá inteligencia fungovala ako mozog a počítali sme s tým, že mozog funguje lepšie. Zrazu som si uvedomil, že algoritmus, s ktorým pracujeme, je už možno lepší ako mozog. A ak budeme jeho schopnosti naďalej rozvíjať, bude múdrejší, než sme my,“ povedal.
V článku sa tiež dočítate:
- Ľudia prídu o prácu, ale existenčné riziko je inde.
- Prečo sa Hinton už na riešení problému podieľať nebude.
- Ako rozdeľuje Európsky parlament umelú inteligenciu podľa rizika.
- V čom je inšpiráciou boj s klimatickou zmenou.
- Pred nadvládou strojov varovali už v 19. storočí.
- Prečo má varovanie pred skazou len jednu vetu.
Neprekročili už stroje hranicu?
Tieto obavy sú základom úvahy o tom, či už stroje neprekročili hranicu singularity, teda, že už prekonali schopnosti ľudí.
Napríklad ChatGPT sa síce môže zdať len ako chat, no ak vie programovať, môže v budúcnosti zlepšovať aj svoj vlastný kód a dostať sa spod kontroly programátorov. Mohol by dosiahnuť takzvanú umelú všeobecnú inteligenciu prekonávajúcu tú ľudskú.
