一些簡單的數據分析(如已知位置和形狀但未知幅度的峯的總和的擬合)可以用線性方法來完成,但一般來說這些問題也是非線性的。通常研究的是含有變量參數的系統的理論模型以及含有未知參數的試驗模型。可以試着用數值尋找最優值。這種情況下,除了最優值本身通常還需要對結果的精度進行量度。
約束集的性質有若干可能性,也被稱爲可行集或可行域(英語:feasible region)。
無解問題(infeasible problem)是指沒有一組變量可以滿足所有的約束,也就是約束之間有互相矛盾的情形,沒有解存在。
有解問題(feasible problem)是指至少有一組變量可以滿足所有的約束條件。
無界限問題(unbounded problem)是一個有解問題,其變量沒有上限限制,因此沒有最佳解,因爲總會有一組變量使得目標函數比其它組的變量有更好的結果。
靈活就是最好的能力。