AI agenti, halucinačná hudba a smart home: čo sa deje v technológiách

OpenAI agenti zaútočili na web OSN viac ako 16 000-krát

Keď hovoríme o bezpečnostných rizikách AI, väčšinou myslíme na úniky dát alebo deepfake obsah. Tento prípad je iný. Bezpečnostný výskumník Rowan Howard-Jones zistil, že agenti OpenAI opakovane skenovali štatistický web Konferencie OSN o obchode a rozvoji (UNCTAD) v priebehu niekoľkých mesiacov. Celkový počet prístupov prekročil 16 000.

Nejde o klasický kybernetický útok v tom zmysle, že by niekto vedome vydal príkaz "zaútočte na OSN". Problém je hlbší: autonómne AI agenti môžu spôsobovať škody aj bez priameho ľudského zámeru. Pre každého, kto sa učí vývoj softvéru alebo kybernetickú bezpečnosť, je toto dobrá ilustrácia toho, prečo musí mať každý systém s AI agentmi jasne definované hranice a monitorovanie. Celý príbeh o AI agentoch a webe OSN si prečítajte na The Verge.

Meta, Muse a problém s dôverou

Meta predstavila vlastného AI asistenta Muse a podľa všetkého sa jej podarilo strhnúť pozornosť od OpenAI aj Anthropicu. Lenže za tým leží otázka, ktorú si kladú mnohí odborníci aj bežní používatelia: dá sa Mete v oblasti AI vôbec dôverovať?

Spoločnosť dlhodobo bojuje s obrazom firmy, ktorá zbiera dáta agresívnejšie ako konkurencia. Keď teraz vstupuje do priestoru AI asistentov, jej minulosť hrá proti nej. Pre tých, čo sa zaujímajú o UX dizajn alebo produktový vývoj, je to zaujímavý príklad toho, ako silno vplýva reputácia firmy na prijatie nového produktu, bez ohľadu na jeho technickú kvalitu. Viac o dileme dôvery okolo Meta Muse nájdete na TechCrunch.

Startup mení AI haluinácie na hudobný nástroj

Spoločnosť Thoughtful Things spustila na Kickstarteri kampaň pre svoj prvý produkt, sampler s názvom Engram. Na rozdiel od generatívnych nástrojov ako Suno, Engram nie je určený na automatické vytváranie hotových pesničiek. Ide skôr o hudobný nástroj pre experimentálnych umelcov: berie vstupný zvuk, deformuje ho pomocou AI a dokonca generuje úplne nové zvuky, ktoré pôsobia, akoby si ich AI "vymyslela".

Zaujímavé je, ako startup pozicionuje produkt presne na opačnom póle oproti mainstreamovým AI nástrojom. Namiesto jednoduchosti a automatizácie stavia na kreativite a nepredvídateľnosti. Pre študentov technológií alebo dizajnu je to ukážka toho, že AI môže byť aj nástrojom pre ľudskú tvorbu, nielen jej náhradou. Prečítajte si viac o sampli Engram a jeho Kickstarter kampani.

Autonómne vozidlá si vyberajú smer

Firmy vyvíjajúce autonómne vozidlá sa čoraz zreteľnejšie delia do skupín podľa toho, na aký typ prepravy sa sústredia. Niektoré idú cestou robotaxi služieb vo veľkých mestách, iné sa zameriavajú na nákladnú dopravu alebo špecifické geografické oblasti.

Táto špecializácia naznačuje, že trh autonómnych vozidiel nedospeje k jednému dominantnému hráčovi, ale skôr k viacerým súbežným riešeniam. Pre záujemcov o dátovú vedu a AI je sektor AV jedným z miest, kde sa dnes zbierajú a spracúvajú obrovské množstvá reálnych dát. Prehľad o smerovaní AV firiem prináša TechCrunch Mobility.

Smart home zariadenia miznú rýchlejšie, než sme čakali

Pred desiatimi rokmi sa zdalo, že prepojená domácnosť je nevyhnutná budúcnosť. Dnes je realita iná: firmy rušia podporu pre svoje produkty, cloudové servery sa vypínajú a z drahých smart spotrebičov sa stávajú drahé paperweights.

Posledným príkladom je smart rúra June Oven, ktorej výrobca ukončil prevádzku cloudovej infraštruktúry. Zariadenie fyzicky existuje, ale bez serverov nefunguje tak, ako malo. Toto je praktická lekcia pre každého, kto vyvíja softvér alebo navrhuje produkty: závislosť od externej infraštruktúry je riziko, ktoré treba zahrnúť do dizajnu od samého začiatku. Viac o problémoch so smart home zariadeniami píše The Verge.

Príbeh OLPC: prečo dobrý nápad nestačí

Iniciatíva One Laptop Per Child (OLPC) chcela dať každému dieťaťu na svete vlastný počítač. Laptop XO-1 bol navrhnutý tak, aby vydržal náročné podmienky, bol lacný a jednoduchý. Napriek tomu projekt nenaplnil očakávania.

Retrospektívny pohľad na OLPC je cenný z viacerých dôvodov. Ukazuje, že technologické riešenia sociálnych problémov fungujú len vtedy, ak sú zasadené do širšieho kontextu: infraštruktúry, vzdelávania učiteľov, lokálnej kultúry a dlhodobej podpory. Pre tých, čo uvažujú o kariére v technológiách, je to pripomienka, že samotný kód alebo hardware nikdy nestačia. Celý rozbor prečo OLPC zlyhalo si vypočujte na The Verge.

Googlebooks a ďalšie zaujímavé nástroje týždňa

V záverečnom prehľade stojí za zmienku Googlebooks, nová služba, o ktorej začínajú hovoriť tech nadšenci ako o niečom, čo by mohlo fungovať tam, kde predchádzajúce pokusy o digitálne knižnice stroskotali. Okrem toho Meta Ray-Ban okuliare dostali novú funkciu ovládania zvuku, čo ich posúva bližšie k úžitkovým dennodenným gadgetom.

Pre tých, čo sledujú vývoj produktov a rozhrania, sú tieto drobné aktualizácie dobrým príkladom toho, ako sa reálne produkty zlepšujú: nie veľkými skokami, ale postupnými iteráciami. Prehľad najlepších noviniek týždňa nájdete v newsletteri Installer na The Verge.

Technologický svet sa v najbližších mesiacoch nezastaví. AI agenti získavajú väčšiu autonómiu, trh autonómnych vozidiel sa čoraz viac štruktúruje a otázka dlhodobej udržateľnosti smart home ekosystémov zostáva otvorená. Sledovať tieto témy nie je len záujmová aktivita, pre každého, kto dnes vstupuje do technologického sektora, sú to oblasti, kde budú pracovné príležitosti aj výzvy v najbližších rokoch.