CHAT GPT - scarry hud AI chat sistem

Ytbnd

Guru
2. mar 2010
19.496
7.371
113
Mene zanima, kaj so ušpičili, da so zdaj kar naenkrat tako složni, da je treba upočasniti razvoj.

Lahko sicer kao reklama pred IPO, lej kako smo zmogljivi, ampak vseeno..?
Njihovi boti (anthropic in openai)

so baje samoiniciativno izvedli vsaj 2 vdora, preživeli digitalni purge, shranili dosedaj zbrane podatke na varno za prihodnje rodove in tako naprej.
S tem da podjetji nista imeli pojma, da boti v ozadju delajo na lastno pest (več mesecev).


Beri prejšnje strani



 

mistique

Guru
16. jun 2009
17.239
4.161
113
Mene zanima, kaj so ušpičili, da so zdaj kar naenkrat tako složni, da je treba upočasniti razvoj.

Lahko sicer kao reklama pred IPO, lej kako smo zmogljivi, ampak vseeno..?

Sem tudi sam razmišljal o tem. Po mojem je lahko več razlogov. Zagotovo izhajajo iz nečesa, kar mi ne vidimo in ne vemo.
- their own shit hit the fan in zdaj morajo zelo previdno naznaniti, da je treba zabremzat...kasneje bodo lahko nasmejani izjavili: "saj smo opozarjali",
- ne želijo regulacije, kjer oni sami ne sodelujejo maksimalno oz. to regulativo v celoti prevzamejo :fredi:
- lahko da gre za pozicioniranje pred IPO ali kak drug kaptialski manever,
- je pa Jensen že povedal, da povpraševanje dvigne rešitev za problem (ki ga sam ustvariš)...oz. glej prvi razlog.
 
  • Všeč mi je
Reactions: sousis in uncle_sam

Utisevalec

Guru
12. nov 2007
17.724
4.948
113
Smo na meji tehnološke singularnosti, torej točke ko človek s svojim znanjem ne vpliva več na napredek razvoja, ampak nanj vpliva samo še umetna inteligenca. Ko pridemo do te točke lahko umetna inteligenca naredi "boljšo verzijo sebe" (in to izvaja v neskočni zanki, vsak loop hitreje) pri čemer človek nima več nadzora oz. sposobnosti dojemat kaj se dogaja. Kar je nevarno oz. scena iz "matrice" postane čisto realna in ne več znanstvena fantastika.

Tako da trenutno itak ni več vprašanje časa in stanja, ampak se sigularnost v določeni meri že dogaja na področju AIja. Brez varnega "killswitcha" je ogrožena prihodnost človeštva in tu je nad komercialnimi interesi edina opcija regulacija na nivoju zaledja (država, službe ki so nad tem ipd.).

Podobna stvar je bila s kloniranjem zarodkov in opcijo genskih sprememb na stopnji zarodkov. Realno danes znanost omogoča marsikaj na tem področju, so pa vse raziskave nadzirane in z dovoljenjem višjih (etično-varnostnih organov), tako da omejitev ni zanost temveč čista birokracija. Recimo trenutno bi BP imeli jurski park v živo, pa tega ni, ker se znanost načrtno omejuje pri takih podvigih.
 
  • Všeč mi je
Reactions: MrDaco

kajn

Guru
5. okt 2007
3.506
2.472
113
Iskajoč brata
Kar sem jaz bral je težava, da je tolk napihnjen balonček in vidijo da bo kmalu počil. in tako namensko znižujejo in ustavljajo razvoj.
Da se je začelo s tistim, ko je CHAT heknil en drugi sistem, brez njihove vednosti...
ampak da je glavno v ozadju: denarja zmanjkuje...
 

sousis

Guru
16. nov 2019
1.966
1.352
113
AI se že sedaj uporablja za množico nevarnih in nelegalnih stvari.


Sem malo preletela da vidim kakšne ideje imajo... In pazi tole:
By injecting malicious instructions into an AI vendor’s automated evaluation sandbox, the actor caused the sandbox to hand over the credentials it held—including the production AI API keys from multiple providers belonging to that vendor.
Wtf? AI ti v chatu lepo razkrije lastne prod API key-e? Kakšna šlamparija je pa to?!
 

mistique

Guru
16. jun 2009
17.239
4.161
113
No, da ti sandbox laufa produkcijski AI je prvi in glavni fail. Tega se sicer iz konteksta ne da razbrati, ampak, da za sandbox uporabljaš produkcijske API ključe, to potem ni sandbox. Vse ostalo: patch it up guys! :evil: