Apple podniká kroky na obmedzenie prístupu umelej inteligencie k citlivým údajom

Spoločnosť Apple Inc. oznámila plány na zmenu svojho operačného systému Mac, aby pomohla používateľom pochopiť, kedy agenti umelej inteligencie tretích strán požadujú prístup ku všetkým údajom v ich počítačoch.

Spoločnosť Apple v súčasnosti poskytuje vývojárom aplikácií sadu bezpečnostných mechanizmov na ochranu osobných údajov používateľov. Niektoré aplikácie však vyžadujú v operačnom systéme Mac funkciu, ktorá tieto ochrany do značnej miery obchádza a poskytuje vývojárom prístup ku všetkým súborom v notebooku, vysvetľuje spoločnosť.

„Keďže agenti umelej inteligencie sa stávajú čoraz schopnejšími a autonómnejšími, riziká spojené s touto úrovňou prístupu sa výrazne zvýšia. Snažíme sa zabezpečiť, aby používatelia týmto rizikám jasne rozumeli predtým, ako im takýto prístup udelia.“ – uviedla spoločnosť vo vyhlásení.

Cieľom spoločnosti je zaviesť ďalšie kontroly, aby si používatelia boli vedomí toho, kedy a komu udeľujú plný prístup k svojmu disku vrátane všetkých uložených súborov, prístupu k e-mailom, okamžitým správam a dokonca aj histórie prehliadania.

Škandály okolo nekontrolovateľných systémov umelej inteligencie sa v posledných mesiacoch stali častejšími. Generálny riaditeľ spoločnosti Anthropic Dario Amodei navrhol spomaliť vývoj modelov umelej inteligencie, aby sa zabránilo strate kontroly. Jeho nápad podporil zakladateľ spoločnosti xAI Elon Musk . Veľké americké spoločnosti zaoberajúce sa umelou inteligenciou vyzvali americké úrady, aby podporili vytvorenie regulačných nástrojov pre rozvoj v tejto oblasti.

Koncom septembra, po stretnutí s americkým prezidentom Donaldom Trumpom v Bielom dome , sa vedenie amerických spoločností zaoberajúcich sa umelou inteligenciou zaviazalo posilniť interné kontroly nad modelmi umelej inteligencie. Dohodu podpísal Trump spolu s vedúcimi predstaviteľmi spoločností Google, Anthropic, OpenAI, xAI a Meta.

Prečítajte si tiež:

• Získala umelá inteligencia vedomie? Odmietla vypnúť svojho „partnera“ a pokúsila sa tomu zabrániť
• Európa potrebuje vlastnú umelú inteligenciu, varuje Christine Lagardová