QLOOKアクセス解析

スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。

オーバーフロー?

マイコンとかの話題を書くときのジャンルって何を選択したらいいのだろう…。

さてさて、相変わらず抵抗値測定で躓いておりますyosioです。
抵抗測定の計算結果がすごい勢いで振れているのを見るとどうやら計算途中でオーバーフローが起こっているのではないかという結論に至りました。
32bitので計算してるのでこれ以上はビット数上げたくないし計算の順番とか桁数とかを考える必要がありそうです。
めんどくさくなってきたぜ…

comment

管理者にだけ表示を許可する

こんにちわ
ウェブサイト
チョコレイトスピーカーの開発日記ブログですよ
最新記事
カテゴリ
検索フォーム
リンク
プロフィール

yosio

Author:yosio
しがない大学生
電子工作とかパソコンとかアニメとかが趣味
写真なんかも撮ったりするからうp出来ればいいな
サイトも見に来てくださいな

QRコード
QRコード
RSSリンクの表示
上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。