鳳鳴は祖父の俳号

日記 メモ そんなの

2011-10-16から1日間の記事一覧

awkでフィボナッチ数列(自前bignum)

awk

awkでは数値はdouble扱いということで79番目のフィボナッチ数を計算するときに扱える範囲を越えてしまうことがわかったので、bignum相当の加算を作ってみた。これは文字列に対する十進加算ですけど。 #! /usr/local/bin/gawk -f # # Fibonacci number # BEGI…

awk/gawkで加算の結果がなんかおかしい 調査中 →doubleによる制限事項でした

awk

動作環境:MacOSX(10.6.8) /標準のawkとhomebrewでインストールしたgawk awk version 20070501 GNU Awk 4.0.0 実行例: gawk 'BEGIN{print 5527939700884757+8944394323791464}' →14472334024676220 ※最後の桁が"1"でないなお、rubyでは正しく計算できていま…