File: bisect.dat

package info (click to toggle)
mpfi 1.5.3%2Bds-6
  • links: PTS, VCS
  • area: main
  • in suites: bookworm
  • size: 2,408 kB
  • sloc: ansic: 14,992; makefile: 156; sh: 6
file content (60 lines) | stat: -rw-r--r-- 2,089 bytes parent folder | download | duplicates (7)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
# data file for mpfi_bisect
#
# column fields:
# 1: return value
# 2: precision of left half
# 3: left endpoint value of left half
# 4: right endpoint value of left half
# 5: precision of right half
# 6: left endpoint value of right half
# 7: right endpoint value of right half
#
# 8: precision of input argument
# 9: left endpoint value of input argument
# 10: right endpoint value of input argument
#

# special values
0 53  nan  nan  53  nan  nan    53  nan -inf
0 53  nan  nan  53  nan  nan    53  nan -8
0 53  nan  nan  53  nan  nan    53 -8    nan
0 53  nan  nan  53  nan  nan    53  nan -0
0 53  nan  nan  53  nan  nan    53 +0    nan
0 53  nan  nan  53  nan  nan    53  nan  5
0 53  nan  nan  53  nan  nan    53  5    nan
0 53  nan  nan  53  nan  nan    53  nan +inf
0 53  nan  nan  53  nan  nan    53  nan  nan
0 53 -inf -inf  53  nan  nan    53 -inf -inf
0 53 -inf -8    53  nan  nan    53 -inf -8
0 53 -inf -0    53  nan  nan    53 -inf -0
0 53 -inf  5    53  nan  nan    53 -inf  5
0 53 -inf +inf  53  nan  nan    53 -inf +inf
0 53  nan  nan  53  nan  nan    53 -inf  nan
0 53 -8   -4    53 -4   -0      53 -8   -0
0 53 +0   -0    53 +0   -0      53 +0   -0
0 53 +0    2.5  53  2.5  5      53 +0    5
0 53 +0   +inf  53  nan  nan    53 +0   +inf
0 53  5   +inf  53  nan  nan    53  5   +inf
0 53 +inf +inf  53  nan  nan    53 +inf +inf
0 53  nan  nan  53  nan  nan    53 +inf  nan

# regular values
# same precision: [2, 2^53] -> [2, 2^52+1] u [2^52+1, 2^53]
0 53  2                     0x10000000000001
  53  0x10000000000001      0x1p+53
  53  2                     0x1p+53

# double rounding error: it should be  [1, 2^53+2] u [2^53, 2^54]
- 52  1                     0x1p+53
  52  0x1p+53               0x1p+54
  53  1                     0x1p+54

# double rounding error: it should be  [1, 2^52+1] u [2^52, 2^53]
- 53  1                     0x1p+52
   2  0x1p+52               0x1p+53
   2  1                     0x1p+53

# double rounding error: it should be  [-1, 8] u [7, 16]
+  2 -1                      8
   3  8                     16
   2 -1                     16