程序師世界是廣大編程愛好者互助、分享、學習的平台,程序師世界有你更精彩!
首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫知識
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
 程式師世界 >> 數據庫知識 >> SqlServer數據庫 >> 關於SqlServer >> SQLServer中bigint轉int帶符號時報錯問題解決方法

SQLServer中bigint轉int帶符號時報錯問題解決方法

編輯:關於SqlServer

有一個需求是要在一個雲監控的狀態值中存儲多個狀態(包括可同時存在的各種異常、警告狀態)使用了位運算機制在一個int型中存儲。

現在監控日志數據量非常大(億級別)需要對數據按每小時、每天進行聚合,供在線報表使用。
狀態分了3個級別:正常(0)、警告(1)、異常(2),聚合時需要使用max選擇最差的狀態,就需要對狀態值進行處理加上級別和狀態位個數,就要借助bigint型來做運算了,

問題是再將bigint 轉為 int時獲取原始狀態值時,SQLServer報錯了:

消息 8115,級別 16,狀態 2,第 1 行
將 expression 轉換為數據類型 int 時出現算術溢出錯誤。

因為狀態碼中已經用到了 0x80000000, 出現了符號位的問題。
寫了一個轉換函數解決了。

CREATE FUNCTION [dbo].[BigintToInt]

(

@Value bigint 

)

RETURNS int

AS

BEGIN

-- 是否有int符號位

IF @Value & 0x80000000 <> 0 RETURN @Value & 0xFFFFFFFF | 0xFFFFFFFF00000000

-- 無符號位

RETURN @Value & 0xFFFFFFFF

END
  1. 上一頁:
  2. 下一頁:
Copyright © 程式師世界 All Rights Reserved