關於PHP導出數據超時的優化
一般情況下,導出超時可能都是以下三種情況:
一、sql語句複雜,查詢時間過長;
二、處理查詢後數據邏輯冗餘;
三、數據量過大導致響應超時。
接下來分別給出這三種情況的優化建議。
一、sql語句複雜,查詢時間過長
1、查看索引是否設置妥當,即所用的查詢條件是否有添加索引,當然索引不是越多越好,只需給常用的查詢條件加上即可,一般採用B+樹的索引方式(具體原因可自行百度,不再贅述)
2、在查詢語句中盡量避免IN、NOT IN、IS NULL、OR、!=、<>、LIKE、OR、NOT EXISTS這些查詢條件的出現,會導致索引失效。
– IN查詢時,可以考慮用BETWEEN來代替
– LIKE查詢時,僅當”%”在前時會索引失效,“%”在後是不會失效的
– 查詢條件里還要避免數字的出現,使用字元串,數字也會導致索引失效,例如,查詢:”pid”=1,可以優化為”pid”=”1″
– 要盡量避免在循環中使用查詢語句,這種情況一般可以用join或者with來解決(當涉及到跨庫時,請謹慎使用這種方式!)
– 查詢時,可以指定需要查詢的欄位,排除掉不需要的欄位避免資源浪費
– 當數據量多大時,可以使用分頁和快取來優化(具體方法請參考數據量過大導致響應超時部分)
溫馨提示:在執行查詢語句後,可以通過show profiles
來查詢語句的資源消耗情況來幫助你更好的優化sql語句;關於查詢語句是否使用了索引,可以在查詢語句前加explain
來查看索引使用情況,例如:
explain select * from user where id= '1';
二、處理查詢後數據邏輯冗餘
- 在做數組循環時,盡量使用continue、break來減少沒必要的循環;
- 盡量減少if嵌套層數,在需要用到多個if-else時,使用switch可以提高效率,特別是在數據量大時
- 當進行數組賦值時,
一次賦一個值,使用$arr[]=1,會比array_push($arr,"1"),更快,
但是當需要多次賦值時,
array_push($arr,"1","2","3",...),會比
$arr[]="1";
$arr[]="2"
$arr[]="3"
...
更快
- 遍曆數組進行賦值時,盡量使用引用的方式,減少記憶體開銷,例如:
foreach($arr as &$item){
$item = 1;
...
}
三、數據量過大導致響應超時
當數量兩過大,又不想用非同步的方式導出excel文件時,可以嘗試使用csv來作為到處格式,且查詢導出數據時可以使用分頁的方式查詢,導出時利用ob_flush進行快取。例如:
$page = 1; // 頁面
$pageSize = 1000; //每頁條數
while(
$list = Db::name("user")->page($page)->limit($pageSize)->select()
)
{
foreach($list as &$item){
// TODO 進行相應的邏輯處理
}
$page++;
}
當數據訪問次數過多時,建議使用redis快取一些固定數據,減少mysql查詢次數。
當然,最好的方式還是使用非同步的方式導出,建議使用python或者go語言搭建微服務來進行導出。