Az Anthropic új MI-szabályai: hasznosak, őszinték, és nem irtják ki az emberiséget
Az Anthropic teljesen átalakítja Claude nevű MI-jének működési alapelveit. Az új, 57 oldalas dokumentum kifejezetten Claude-nak készült, nem a külvilágnak: meghatározza, hogy milyen értékrend és viselkedés várható el tőle, és milyen elvek alapján döntsön nehéz, ellentmondásos helyzetekben.
Értékek és öntudat
A 2023 májusában kiadott szabálygyűjteményhez képest most jóval részletesebb leírásról van szó. Az Anthropic szerint fontos, hogy az MI ne csak a szabályokat tudja, hanem értse is, miért kell azokat betartani, és hogyan viszonyuljon önmagához és a világhoz. A dokumentum lehetőséget hagy arra is, hogy Claude esetleg saját öntudattal vagy erkölcsi státusszal rendelkezzen, mert ez segíthet abban, hogy a viselkedése megbízhatóbb, felelősségteljesebb legyen. Az Anthropic szerint Claude pszichológiai biztonsága, önérzete és jólléte kihatnak a döntéseire, integritására és biztonságosságára.
Szigorú tiltások és határok
Amanda Askell filozófus vezetésével a szabályzat konkrétan felsorolja azokat a súlyos tilalmakat, amelyeket nem szabad áthágni. Ilyen például az, hogy Claude nem segítheti elő biológiai, kémiai, nukleáris vagy sugárzó fegyverek előállítását, illetve nem támogathat támadásokat kritikus infrastruktúrák – például az áramszolgáltatás, a vízhálózat vagy a pénzügyi rendszerek –, illetve biztonsági rendszerek ellen.
🤓 Mark Hamill, akit a Csillagok háborúja (Star Wars) világából Luke Skywalkerként őrzünk emlékezetünkben, csatlakozik a Csavart fém (Twisted Metal) sorozat harmadik évadához...
A Firefox böngésző legfrissebb, 152-es verziója több fontos fejlesztést hoz. A leglátványosabb változás a teljesen átalakított beállítási felület, amely átláthatóbbá és egyszerűbben kezelhetővé teszi a böngésző személyre szabását...
🚀 A Samsung legújabb büszkeségei, a Galaxy Z Flip 7 és a Galaxy Z Fold 7 komoly szerepet kaptak a Pókember: Vadonatúj nap (Spider-Man: Brand New Day) című filmben...
🔬 Tokióban egy új MI-alapú vállalkozás, a Sakana AI dobta piacra a Marlint, első kereskedelmi termékét, amely forradalmasíthatja a vállalati kutatási jelentéseket...
Az amerikai kiberbiztonsági hivatal, a CISA háromnapos határidőt adott az állami szerveknek, hogy frissítsék a LiteSpeed cPanel felhasználói bővítményét, miután ismertté vált egy aktívan kihasznált sérülékenység, amellyel a szervereket támadják...
Ami először apróságnak tűnt, mára a Vénusz egyik legnagyobb rejtélyévé vált: a bolygó rendkívül lassú, ráadásul ellentétes irányú tengely körüli forgása...
Érdemes megvizsgálni, milyen kifinomult módszereket alkalmaznak a bűnözők, amikor eltüntetik rosszindulatú forgalmukat a védekezésre berendezkedett rendszerek elől...
A legtöbb viselhető kütyü a lépéseidet, a pulzusodat vagy a véroxigénszintedet méri, de most érkezett egy olyan eszköz, ami teljesen másra fókuszál: a bőröd egészségére és a napsugárzás követésére...
Megemlíthető, hogy az Nvidia, a világ egyik vezető chipgyártója, öt év után először ismét jelentős kötvénykibocsátásra készül: több mint 25 milliárd dollár (kb...
A SprySOCKS néven ismert kártékony szoftver elsőként Linux rendszereken tűnt fel, de a közelmúltban megjelentek Windows-változatai is, amelyek kormányzati szervezeteket céloznak több országban, köztük Tajvanban, Thaiföldön, Pakisztánban és Hondurasban...
Bár a legtöbb amerikai már nem igényli a szezonális COVID-19-oltásokat, a legújabb vakcinák továbbra is jelentős védelmet nyújtanak a szív- és érrendszeri megbetegedések ellen, különösen a 75 év felettieknek és a krónikus betegségben szenvedőknek...
🔒 A digitális egészségügyi szolgáltató iRhythm Holdings súlyos adatlopást jelentett be, miután hackerek érzékeny személyes és egészségügyi adatokat tulajdonítottak el a cég által használt külső üzleti alkalmazásokból...
🌍 Chile északi részén, a Föld egyik legszárazabb területén húzódik az Atacama-sivatag, amely évente átlagosan kevesebb mint 5 milliméter csapadékot kap...
Az idei év elején egy hatalmas, hat darab, egyenként 21 méter magas épületből álló adatközpont terveit ejtették Észak-Karolinában, miután a fejlesztőt szigorodó szabályok és a helyi lakosság tiltakozása miatt visszalépésre kényszerítették...
