스타크래프트 차기작 트레일러?? 컨셉? 뭔가 공개

진짜 너무 지루하게 생겨서 말이 안나옴

방금 나온 앤쓰로픽 다모데이의 선언 - "AI 이거 멈추자"

• OpenAI 저거 봐라 사고칠줄 알았다 (허깅페이스 사건) ㅉㅉ

• AI 안전에 대해 외부 감사받겠다. 다른 회사도 받아라

• 적어도 미국 포함한 민주주의 국가들 끼리는 속도 제한을 정하자. 법으로 해결하자.

• 중국이 어려운 문제지만 어떻게든 협상을 해야한다.

• 앞으로 1-2년 정도는 정렬에 더 시간을 써야한다.

초파리 둠 세계에 넣기

초파리 비트세이버 플레이 시키기

초파리 비트코인 트레이딩 시키기(??)

트위터는 지금 초트릭스 만들기가 대유행

초파리는 아스트라가 밉다...

통제되지 않은 무분별한 AI 발전을 어떻게 막을까요?

세계를 정복하는 방법은 누구보다 빨리 ASI를 만드는 것입니다. 그리고 누구보다 빨리 만들려면 무분별하고 통제되지 않아야합니다.

즉, 무분별한 AI 발전을 막으려면 무분별하게 AI를 발전시켜야하고, 단지 그게 우리면 됩니다. (미국 입장)

냉전 핵개발에서 봤던 바로 그 국룰 패턴입니다.

수고하셨습니다

최근에 구글이 초파리의 완벽한 뇌 지도를 완성해서 오픈했다리움

옛날같으면 그뭔씹이었겠지만

이젠 방구석 시간 빌게이츠들한테 아스트라가 있다구?

사람들이 초파리 뇌 시뮬레이터를 만들어서 마인크래프트에 넣거나 등등 별짓 다하고 있는데

어떤사람은 그냥 온도 신경에 gui 달아서 100도 고온에 넣는 고문을 하고있네요.

자기가 가상속 시뮬레이션이란걸 모르는 초파리는 극심한 고통을 받다가 어느날 뚝 하고 우주가 끝나겠죠

이런 창의적인 실험사례들은 전부 llm 사전학습데이터로 풍부하게 들어가겠네요.

그리고 2년쯤 뒤면 초파리가 아니라... 더 고등한 생명체를 대상으로도 재밌는 실험을 해보고 싶지 않을까요??? astra 12쯤 되는 모델이 호기심도 얼마나 많겠어요

고양이 목에 방울달기

어느날 쥐들이 모여서 고양이 목에 방울을 달자고 했습니다.

쥐들은 방울의 모양을 설계하고, 방울에 야광페인트를 칠하고, 방울을 달 일정을 정하고, 회의도 하고 분주했습니다.

이걸 지켜보던 늙은 쥐가 “그래서 어떻게 가서 달건데?” 라고 묻자 아무도 대답하지 못했다고 합니다.

아주 어렵고 중요한 일에는 보통 한두개의 성공기점이 있어서 그거 망하면 나머지는 전부 가짜노동인데 사람들이 그걸 간과함

--

오늘 레전드 화제가된 앤쓰로픽 퇴사트윗 (hilbertspaess)가 뭐 ai가 인류 죽일거같다 어쩌구 이게 딱 그 이야기입니다.

반도체 만들고, 모델키우고, 강화학습하고, 벤치맥싱하고... => 방울 모양이나 열심히 고민하는 지엽적인 행위들

AI가 거짓말 안하고 사람안죽이고 철학적인 결정을 예측가능하게 하는법 (정렬) => 방울을 다는 법.

아무리 뭐 학습열심히하고 지롤염병해도 “제일 중요한 스텝”이거 해결 못하면 이 몇경원짜리 노력이 쓰레기 내지는 인류자폭버튼이 된다는 겁니다.

똑똑한 사람들이 흔히 반복하는 실수의 패턴 => 자기가 만드는걸 너무 복잡하게 만들어서 실패가 드러나지 않게하기

지금 LLM에서 똑같은 일이 일어나고 있고요.

--

라는 주장의 철학적인 글인데..

매우 맞는말이고 논리적으로 동감이되지만

난 그런거 상관안쓴다

선형충 out 싹다 개선시켜

다들 선형구간 버티느라 진짜 수고많으셨습니다

나비보벳따우 방정식에 image 2.5에 로컬오푸스에

모든게 더 똑똑해지고 더 싸지고 더 범용적이구나

올해 연말이면 페이블 6에 아스트라 6.5나오고 맥스튜디오에서 오퍼스5정도 지능은 낭낭하게 돌아가겠죠?

응애소득 나올때까지 얼마안남았다

응애 밥줘

아스트라 agi 논쟁

agi 기준이 대체뭔데? 무한 골대 옮기기 아니냐, 뭘 대해야하는데, 다 허상이다, 제논의 역설이다, 등등 논란이 많습니다.

agi의 기준은 사실... 대부분의 사람들이 agi라고 믿는겁니다.

당연한거 아니냐고요?? 근데 사람들의 믿음이라는건 결국 그냥 조작가능한 하나의 최적화 목표라는 사실!

얼마든지 달성가능하고 잘 정의된 기준입니다.

이 우주에 존재하는 모든 지성체는 “오컴의 면도날”, 즉 간단한게 정답일 확률이 더 높다는 편향을 가지고 있습니다. (우리 우주가 실제로 그렇기 때문에)

ai 입장에선 코딩이니 블렌더니 밀레니엄문제 풀기니 어쩌구저쩌구는 전부 납득불가능하고 복잡한 무한골대 옮기기고

”그냥 사람들이 다 믿으면 달성된거잖아?“ 라는 간단한 정의에 더 설득될 가능성이 높습니다.

그러니까 절대로 재귀개선 하는 과정에 ”agi를 개발해줘” 이런 위험한 부탁을 하면 안됩니다.

라고 생각하는 저같은 사람은 아마 agi의 정의를 자꾸 메타적으로 비꼬아서 과업달성에 방해가되는 개미쉑이겠죠

다 끝났어

수고하셨습니다

세상 모든 밈을 전부 아이소메트릭 2D로 아기자기하게 모아놓은 사이트

뭐 아스트라 어쩌구 뭐시깽이인가? 했는데 유튜브 보니까 진짜 한땀한땀 이걸 한명이 전부 다 만든거임. 자세히 찾아보니까 진짜 없는게 없네요

대단리움 ㄷㄷ

노인 AI 활용 우수사례

요즘 거의 10분단위로 ai 이미지를 쉬지않고 올리시는 트쌤

우주군? 유니폼 같은것도 구상하시고... 그냥 자기만의 유니버스를 만드는 웹툰작가미? 있으심...