목록부동소수점 (4)

봉황대 in CS

[Chapter 3. 컴퓨터 연산] 연산에 있어서 겪을 수 있는 오류와 함정들

* 본 글은 '컴퓨터 구조 및 설계: 하드웨어/소프트웨어 인터페이스(Computer Organization and Design: The Hardware/Software Interface) 5th edition'의 내용과 2021학년도 1학기에 수강한 '컴퓨터 구조' 과목 강의 내용을 함께 정리하여 작성하였습니다. 본서에서는 '오류'와 '함정'이라는 단어를 사용하는데, 각각의 의미는 다음과 같다. 오류(Fallacy) : 많은 사람들이 공통적으로 잘못 알고 있는 부분 함정(Pitfall) : 흔히들 저지르기 쉬운 실수 [ 오류 ] 한 비트 왼쪽 자리이동 명령어가 2를 곱해준 것과 같은 결과를 보이듯이 오른쪽 자리이동 명령어는 2로 나누어 준 것과 같은 결과를 나타낸다. 부호 없는 정수(unsigned in..
Computer Science/Computer Architecture 2022. 8. 30. 15:50
[Chapter 3. 컴퓨터 연산] 부동소수점 덧셈과 곱셉

* 본 글은 '컴퓨터 구조 및 설계: 하드웨어/소프트웨어 인터페이스(Computer Organization and Design: The Hardware/Software Interface) 5th edition'의 내용과 2021학년도 1학기에 수강한 '컴퓨터 구조' 과목 강의 내용을 함께 정리하여 작성하였습니다. 부동소수점 덧셈 부동소수점으로 표현된 수들의 덧셈은 어떻게 진행되는지 알아보자. 1. F1과 F2의 hidden bit을 복구시킨다. ex) F1이 011000...000이라면 원래 수는 1.011이다. (hidden bit = 1) 2. E1과 E2의 자릿수를 맞춰준다. * 자릿수를 맞추는 방법 (1) E1과 E2 중에 큰 것을 고른다. E1 > E2라고 가정하자. (2) E1 - E2 만큼 ..
Computer Science/Computer Architecture 2022. 8. 29. 16:41
[Chapter 3. 컴퓨터 연산] IEEE 754 부동소수점 반올림과 근사

* 본 글은 '컴퓨터 구조 및 설계: 하드웨어/소프트웨어 인터페이스(Computer Organization and Design: The Hardware/Software Interface) 5th edition'의 내용과 2021학년도 1학기에 수강한 '컴퓨터 구조' 과목 강의 내용을 함께 정리하여 작성하였습니다. IEEE 754에는 4가지 자리맞춤 모드(rounding modes)가 있다. 1. Always round up (항상 자리올림) (+∞ 방향) 2. Always round down (항상 자리내림) (-∞ 방향) 3. Truncate (잘라내기) 4. Round to nearest even (가장 가까운 짝수로의 자리맞춤) (반올림) 이러한 자리맞춤 모드들이 존재하는 이유는 아래와 그림과 같이..
Computer Science/Computer Architecture 2022. 8. 28. 20:56
[Chapter 3. 컴퓨터 연산] 부동소수점

* 본 글은 '컴퓨터 구조 및 설계: 하드웨어/소프트웨어 인터페이스(Computer Organization and Design: The Hardware/Software Interface) 5th edition'의 내용과 2021학년도 1학기에 수강한 '컴퓨터 구조' 과목 강의 내용을 함께 정리하여 작성하였습니다. 프로그래밍 언어는 부호있는 정수와 부호없는 정수뿐만 아니라 소수 부분을 갖는 수, 실수(reals)도 표현할 수 있어야 하고, 엄청나게 큰 값도 표현할 수 있어야 한다. 이 수들은 32비트 부호있는 정수로는 표현할 수 없다. 과학적 표기법과 정규화된 수, 부동소수점 우선 과학적 표기법과 정규화된 수에 대하여 알아보자. 과학적 표기법(scientific notation)은 소수점의 왼쪽에는 한 자..
Computer Science/Computer Architecture 2022. 8. 27. 15:42
Prev 1 Next