#ieee 754

[hyperoperationfractallisation]

Idea: floating point but make it floating

[fragariavescana]

If GPUs are full of floating point numbers why doesn't shadertoy let me divide by zero?

1./0. == Inf should be a perfectly cromulent expression

[boltsj]

Wrong. We made computers bad at math as a standard in 1985 with IEEE-754. Chatgpt sucks for many reasons, but the primary cause of computers being bad at math is floating point arithmetic. This is yet another case of ai doing something easy but worse and taking up a shit load of power.

[boltsj]

I suppose that I deserve what I get when I expect computers to be fucking normal about *checks notes* computing the solutions to math problems.

[boltsj]

IEEE-754 my nemesis

[56perc]

컴퓨터에서의 반올림 규칙

대부분의 프로그래밍 언어에서는 사칙연산을 포함한 기본적인 산술 기능이나 고급 수학 함수들을 제공합니다. 그리고 여기에 올림이나 내림, 반올림 같은 정밀도와 관련된 기능도 포함됩니다. 숫자를 포맷팅하는 기능을 제공하는 언어는 어떤 숫자값을 소수점 아래 몇 자리까지 표현하는 포맷을 적용할 때 기본적으로 반올림 기능을 사용합니다. 그런데 컴퓨터에서 사용하는 반올림 기능와 우리가 학교에서 배워서 알고있는 반올림이 좀 다른 규칙이라는 건 알고 있나요? 아니, 반올림이 동네마다 다른 규칙을 쓴다니, 그건 어느 동네 수학이죠? 암튼, 컴퓨터에서 부동소수점 소수값을 정수로 변환하는 규칙에 관한 국제 표준이 있습니다. 우리가 학교에서 배운 반올림 방식은 나이 드신 분들이 흔히 ‘사사오입’이라 부르는 것으로 반올림하려는…

View On WordPress

[sztupy]

I <2.9999999813 IEEE-754

[icnweb]

Altera, Quartus II 소프트웨어 v14.1 제공

Altera, Quartus II 소프트웨어 v14.1 제공

Arria 10 FPGA와 SoC에 대한 지원을 확대함으로써 설계 시간 단축

알테라는 Arria® 10 FPGA와 SoC에 대한 지원을 확대한 Quartus II 소프트웨어 v14.1을 제공한다고 밝혔다. Arria 10은 FPGA 업계에서 유일하게 하드구현 부동소수점 DSP 블록을 통합한 디바이스이자 ARM 프로세서를 통합한 업계의 유일한 20nm SoC FPGA를 제공한다. Altera의 이 최신 소프트웨어 릴리즈는 Arria 10 FPGA 및 SoC으로 통합하고 있는 하드구현 부동 소수점 DSP 블록을 즉각적으로 지원한다. 사용자는 3개의 고유의 DSP 설계 입력 플로우 중에서 선택할 수 있으며 업계에서 가장 앞선 1.5 TFLOPS에 이르는 DSP 성능을 달성할 수 있다. 이 소프트웨어는 또한…

View On WordPress