2010년 8월 12일 목요일

double precision

4바이트 실수 정밀도가 10^-7 or 10^-8 이고 8바이트 실수 정밀도가 10^-15 정도니까, double precision을 쓸 때의 문제는 두어배 정도 시간이나 공간이 늘어남. 정밀도 확실히 증가함

ifort 에서 real 선언된 변수를 double precision으로 하고 싶을때 옵션 -r8